En el mundo actual, la inteligencia artificial (IA) está tomando un papel cada vez más central en nuestras vidas.

Pero, ¿nos hemos detenido a considerar las implicancias éticas y legales de esta revolución tecnológica? En una charla fascinante y oportuna, Cecilia Danesi, abogada y especialista en IA, y Tomás Balmaceda, doctor en Filosofía (y también moderador de la charla), abordaron estos temas y más, compartiendo sus reflexiones sobre el impacto de la IA en la sociedad y cómo enfrentar estos desafíos.

Cecilia es  abogada, escritora, conferencista, profesora e investigadora en Inteligencia Artificial, géneros y derechos. Comenzó su carrera estudiando Abogacía en la UBA, pero pronto se sintió atraída por el mundo de la inteligencia artificial, buscando un desafío y saliendo de su zona de confort. Aprendió sobre IA con un profesor particular, a raíz de una tesina con la que se encontró mientras realizaba un master en España, y su tesis se centró en la culpabilidad en sistemas de derecho atravesados por estas tecnologías, con el foco de la misma atravesado por un análisis de si la culpa recae en el sistema o en el programador.

A lo largo de la charla, se plantearon varias preguntas inquietantes relacionadas con la interacción entre el derecho y la tecnología. Cecilia compartió su experiencia como abogada joven en un campo donde se enfrentó a varios desafíos y estereotipos. A pesar de las dificultades, se mantuvo firme y se ha convertido en una defensora de la igualdad y la inclusión en el campo de la IA.

Una de las preocupaciones clave en el  debate sobre la inteligencia artificial es acerca de cómo afecta a la sociedad y si debemos temer a sus efectos potencialmente catastróficos. Si bien los sistemas avanzan exponencialmente y son difíciles de reconocer (cómo las imágenes generadas por IA), el miedo no es diferente al que existía antes. La Unión Europea ha avanzado en regulaciones, incluso llegando a prohibir Chat GPT en Italia.

Definir y regular la IA es un desafío en sí mismo, ya que no hay una definición única que satisfaga a todos los expertos y permita una regulación efectiva. Cecilia argumentó que no debemos llevar el debate a un terreno innecesario, pero debemos encontrar un equilibrio entre la innovación y la protección de los ciudadanos. La charla también abordó el impacto de la IA en el conocimiento y la percepción de lo real y lo ficticio. La inteligencia artificial tiene consecuencias difíciles de entender porque no son tangibles, como los algoritmos de las redes sociales. Se discutió el concepto del error en IA, como Chat GPT, que a menudo proporciona respuestas erróneas pero con seguridad, lo que genera preocupaciones adicionales.

En cuanto a la regulación, la complejidad radica en encontrar una definición que abarque todos sus fenómenos. La UE propone niveles para categorizar el riesgo, pero aún existen zonas grises. Algunas ciudades, como Nueva York, han implementado regulaciones para auditorías de algoritmos de reclutamiento laboral. Tomás, el moderador, planteó la falta de alma en Chat GPT y compartió una experiencia de un estudiante que intentó hacer trampa con la ayuda de estas herramientas. Argumentó que si una IA puede aprobar un examen, el problema radica en el examen y no en la persona.

Una interesante pregunta de la audiencia abordó el tema de los sesgos algorítmicos, que resulta ser el área de especialización tanto de Cecilia como de Tomás. Ambos coincidieron en que cualquier proceso de creación o destrucción está impregnado de sesgos humanos y que estos sesgos se propagan a los sistemas de IA, a menudo amplificándolos debido a la capacidad de su procesamiento. ¿Hasta qué punto la sociedad está dispuesta a aceptar la presencia de sesgos en los sistemas de IA? ¿Cómo podemos trabajar para reducir estos sesgos?

La meta de la sociedad es adaptarse y reconvertirse hacia un mundo 4.0. Pero, ¿cómo educamos a las futuras generaciones en programación e IA? Cecilia y Tomás abogaron por ser conscientes de que nuestras acciones tienen un impacto, y que todos somos responsables de nuestro papel en la revolución tecnológica. A nivel individual, las personas deben adquirir nuevas habilidades y capacidades para mantenerse al día en un mundo en constante evolución.

Las universidades también deben adaptar sus currículos para enfrentar estos desafíos, garantizando que los estudios y las carreras se ajusten a las necesidades de un mundo donde la tecnología y la IA juegan un papel fundamental.

Conclyuendo, la charla arrojó luz sobre las preocupaciones éticas y legales que rodean a la IA y cómo podemos enfrentar estos desafíos como sociedad. La clave es encontrar un equilibrio entre la innovación y la protección de los ciudadanos, adaptando nuestras habilidades, conocimientos y regulaciones en consecuencia. También es fundamental fomentar la conciencia ciudadana y asumir nuestra responsabilidad en la creación y uso de sistemas de Inteligencia Artificial, para que podamos navegar con éxito hacia un futuro donde la tecnología y la ética coexisten en armonía.