El primer marco normativo de IA del mundo: principios de 2024

El 24 de enero de 2024, los negociadores en Bruselas finalizaron las conversaciones sobre la Ley de IA de la UE. Esta ley histórica es el primer marco normativo integral del mundo para la inteligencia artificial.

La inteligencia artificial lleva años avanzando rápidamente. Ahora afecta a muchos aspectos de la vida, desde las calificaciones crediticias hasta los diagnósticos médicos. A medida que la IA se volvía más capaz, crecieron las preocupaciones sobre el sesgo, la privacidad y la toma de decisiones importantes por parte de las máquinas. Los expertos advirtieron que la IA podría tener un impacto significativo en la sociedad.

Empresas como OpenAI, Google y Microsoft desarrollaron modelos de IA increíblemente potentes. Estos modelos podían razonar y crear como nunca antes. Gobiernos y grupos de la sociedad civil vieron la necesidad de establecer normas y marcos éticos para esta tecnología. Sin ellos, el uso indebido y los perjuicios derivarían rápidamente en problemas generalizados.

Ética de la IA antes de 2024

Antes de 2024, el debate sobre la ética de la IA ya estaba en auge. Investigadores como Kate Crawford en la USC mostraron cómo los sesgos ocultos en los datos de entrenamiento de la IA podían perpetuar la discriminación, lo que a menudo perjudicaba a grupos marginados. Los defensores de la privacidad, incluida Shoshana Zuboff de la Harvard Business School, advirtieron sobre el capitalismo de vigilancia y explicaron cómo los sistemas de IA recopilan enormes cantidades de datos personales.

Naciones y organizaciones comenzaron a elaborar directrices. En 2019, la Organización para la Cooperación y el Desarrollo Económicos (OCDE) publicó sus Principios de IA, impulsando la innovación responsable y los valores humanos. La Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (UNESCO) hizo lo propio en 2021 con una Recomendación sobre la Ética de la IA, instando a los estados miembros a crear normas éticas nacionales.

En enero de 2023, el Instituto Nacional de Estándares y Tecnología (NIST) de EE. UU. publicó su Marco de Gestión de Riesgos de IA. Esta guía voluntaria ayudó a las organizaciones a encontrar, evaluar y gestionar los riesgos de la IA. El Reino Unido fue sede de la primera Cumbre de Seguridad de la IA en Bletchley Park en noviembre de 2023. Líderes globales y ejecutivos de tecnología hablaron sobre los riesgos de la IA avanzada. Estos esfuerzos mostraron un interés disperso, pero creciente, en la IA ética. Aun así, nadie había aprobado ninguna ley vinculante.

Enero de 2024: nuevas leyes y nuevas preocupaciones

Enero de 2024 comenzó con el impulso definitivo para la Ley de IA de la UE. El 19 de enero, las comisiones de mercado interior y libertades civiles del Parlamento Europeo aprobaron el acuerdo provisional, un paso clave hacia su adopción oficial. La Ley clasifica los sistemas de IA por riesgo, prohíbe los usos de “riesgo inaceptable” —como el reconocimiento facial en tiempo real en lugares públicos— y establece normas estrictas para los sistemas de IA de alto riesgo.

El 24 de enero de 2024, los negociadores en Bruselas finalizaron las conversaciones sobre la histórica Ley de IA de la UE, estableciendo el primer marco normativo integral del mundo para la inteligencia artificial. Este acuerdo histórico, que tardó más de dos años en finalizarse, tiene como objetivo establecer estándares globales para el desarrollo ético y responsable de la IA. (Ilustración generada por IA)

Esta ley es importante. Es la primera ley completa del mundo sobre IA. El comisario de la UE, Thierry Breton, la calificó como “un acto pionero” y predijo que establecería un estándar global. Expertos como el Dr. Philipp Hacker de la Universidad Europea Viadrina estuvieron de acuerdo, considerando que la Ley podría crear un “Efecto Bruselas” que daría forma a la normativa de IA en todo el mundo. Su aprobación significó que cualquier empresa en la UE enfrentaría nuevos desafíos de cumplimiento.

En EE. UU., el gobierno siguió trabajando en su Orden Ejecutiva sobre el Desarrollo y Uso Seguro, Protegido y Confiable de la Inteligencia Artificial, publicada en octubre de 2023. El 26 de enero, el Departamento de Comercio solicitó la opinión del público sobre la seguridad y protección de la IA. Esta medida tenía como objetivo guiar los estándares y las mejores prácticas de la IA. Mostró un enfoque diferente al de la UE, ya que EE. UU. prefirió guías específicas y normas voluntarias en lugar de una ley de gran alcance.

Mientras tanto, los modelos de IA generativa siguieron evolucionando rápidamente, lo que planteó nuevas preguntas éticas. Todos esperaban modelos avanzados de texto a video, como Sora de OpenAI, que prometían un poder creativo asombroso. Sin embargo, también plantearon preocupaciones sobre los deepfakes y la desinformación. Expertos del Centro para la Seguridad de la IA advirtieron que estas herramientas podrían crear contenido falso altamente convincente. El primer trimestre del año comenzó con una clara tensión: la innovación se aceleró, pero las normas éticas apenas comenzaban a perfilarse.

Febrero de 2024: las empresas hablan de ética, surgen nuevos problemas

En febrero, las principales empresas tecnológicas se centraron más en la ética y la seguridad de la IA. El 8 de febrero, Google DeepMind publicó una extensa entrada de blog que detallaba su enfoque para el desarrollo responsable de la IA. La empresa enfatizó la equidad, la privacidad y la seguridad, y también exhibió sus procesos de revisión internos. Esto demostró que las empresas estaban respondiendo al creciente escrutinio público.

Más tarde ese mes, el 15 de febrero, Microsoft anunció nuevas iniciativas para una IA responsable. Su objetivo era hacer que sus productos de IA fueran más transparentes. Esto significaba explicaciones más claras de cómo los modelos de IA toman decisiones. Natasha Crampton, Directora de IA Responsable de Microsoft, enfatizó la importancia de la explicabilidad. Señaló que genera confianza en el usuario. Estas acciones mostraron que las empresas querían adelantarse a la regulación. También tenían como objetivo tranquilizar a clientes e inversores.

Sora de OpenAI, un innovador modelo de IA de texto a video presentado en febrero de 2024, puede generar escenas altamente realistas y complejas a partir de simples indicaciones de texto. Su aparición desató tanto entusiasmo por las posibilidades creativas como importantes discusiones éticas en torno a los deepfakes y la desinformación. (Fuente: shacknews.com)

Pero los desafíos éticos seguían apareciendo. El uso generalizado de grandes modelos de lenguaje (LLM) trajo nuevos debates sobre los derechos de autor y la propiedad intelectual. Artistas y creadores de contenido estaban preocupados, ya que su trabajo a menudo se utilizaba para entrenar modelos de IA sin consentimiento ni pago. Una demanda colectiva contra OpenAI, presentada por autores, avanzó, alegando infracción de derechos de autor. Esto inició un debate más amplio sobre la procedencia de los datos y el uso legítimo en la era de la IA.

La proliferación de contenido generado por IA también complicó los próximos ciclos electorales de 2024. Las preocupaciones sobre los deepfakes y la desinformación impulsada por la IA aumentaron considerablemente. El 27 de febrero, el AI Policy Forum no partidista publicó un informe que advertía que la IA podría dañar los procesos democráticos. El informe instó a las plataformas y a los gobiernos a actuar, mostrando una brecha entre lo que la tecnología podía hacer y lo preparada que estaba la sociedad.

Marzo de 2024: líderes mundiales actúan, Google tropieza

El 11 de marzo, la Asamblea General de las Naciones Unidas aprobó su primera resolución sobre inteligencia artificial. En ella se instaba a sistemas de IA “seguros, protegidos y confiables”. EE. UU. propuso la resolución, y 193 estados miembros la apoyaron, pidiendo respeto por los derechos humanos y las libertades. Esto mostró un creciente acuerdo internacional sobre cómo gobernar la IA.

También comenzó el seguimiento de la Cumbre de Seguridad de la IA del Reino Unido. El 18 de marzo, el gobierno del Reino Unido anunció planes para crear un Instituto de Seguridad de la IA. Su misión: verificar los modelos avanzados de IA en busca de riesgos. Esto se basó en las promesas hechas en Bletchley Park y su objetivo era ser un centro para la investigación independiente sobre la seguridad de la IA. Expertos como el ganador del Premio Turing Yoshua Bengio acogieron con satisfacción tales esfuerzos y los calificaron como esenciales para prevenir riesgos.

Mientras tanto, un incidente específico dejó clara la ética de la IA para todos. El 21 de marzo, surgieron informes sobre la IA Gemini de Google que creaba imágenes históricamente incorrectas. El modelo generó imágenes diversas, pero a menudo fuera de lugar. Google admitió el problema y pausó la generación de imágenes de Gemini. Esto mostró lo difícil que es reducir el sesgo en la IA generativa y también la lucha por garantizar la precisión fáctica.

Este incidente dejó una cosa clara: el desarrollo ético de la IA no se trata solo de grandes marcos políticos, sino que necesita una vigilancia constante en el diseño y la implementación. Timnit Gebru, una investigadora líder en ética de la IA, a menudo lo subraya, argumentando que las decisiones técnicas tienen grandes consecuencias sociales. El trimestre terminó con la comprensión de que la situación ética de la IA no era estática, sino que necesitaba cambios constantes por parte de reguladores, empresas y el público.

La Asamblea General de las Naciones Unidas aprobó su primera resolución sobre inteligencia artificial el 11 de marzo de 2024, en la que se instaba a sistemas de IA "seguros, protegidos y confiables". Esta resolución histórica, propuesta por EE. UU. y apoyada por 193 estados miembros, marcó un importante acuerdo global sobre la gobernanza de la IA. (Ilustración generada por IA)

¿Qué sigue para la ética de la IA?

Los primeros tres meses de 2024 fueron clave para la ética de la IA. La Ley de IA de la UE se acercó a convertirse en ley, sentando un fuerte precedente legal. Las principales empresas tecnológicas siguieron mejorando sus normas éticas de IA, respondiendo a la presión pública y a las nuevas regulaciones. Grupos internacionales, como la ONU, también comenzaron a establecer acuerdos globales.

Pero quedan grandes desafíos. La innovación de la IA todavía avanza más rápido que la normativa. Nuevos modelos, como los generadores de texto a video, traen consigo nuevos problemas éticos. Los debates sobre derechos de autor, deepfakes y el impacto social crecerán. La situación global de la ética de la IA está dividida, ya que diferentes naciones persiguen distintas formas de regular, lo que crea un escenario complejo tanto para la innovación como para la supervisión.

Los próximos trimestres desafiarán a los responsables políticos y a los líderes de la industria, quienes deben asegurarse de que los beneficios de la IA se compartan ampliamente y mitigar sus posibles perjuicios. Las conversaciones entre tecnólogos, eticistas y gobiernos serán aún más importantes. Se necesitan un desarrollo transparente, evaluaciones de riesgos exhaustivas y formas claras de responsabilizar a las personas. Necesitamos un trabajo en equipo continuo para construir un futuro donde la IA realmente nos ayude a todos.

Preguntas frecuentes: IA y ética a principios de 2024

¿Cuál fue el mayor desarrollo regulatorio a principios de 2024 para la ética de la IA? El mayor desarrollo fue el acuerdo provisional sobre la Ley de IA de la UE el 24 de enero. Esta ley es la primera ley completa del mundo sobre IA, estableciendo un estándar global para la regulación. Clasifica los sistemas de IA por riesgo y establece normas estrictas para los usos de alto riesgo.

¿Cómo respondieron las principales empresas tecnológicas a las preocupaciones éticas de la IA? Empresas como Google DeepMind y Microsoft explicaron públicamente sus enfoques de IA responsable. Enfatizaron principios como la equidad, la privacidad y la seguridad. Estas acciones tenían como objetivo aclarar las cosas y adelantarse a futuras regulaciones.

¿Qué nuevos desafíos éticos surgieron con la IA generativa durante este tiempo? La expectativa de modelos generativos avanzados, como Sora de OpenAI, aumentó las preocupaciones sobre los deepfakes y la desinformación. Los debates sobre la infracción de derechos de autor también crecieron, ya que los modelos de IA a menudo se entrenan con contenido protegido por derechos de autor sin permiso.

Los deepfakes, medios sintéticos generados por IA, representan un desafío ético significativo al crear imágenes y videos altamente realistas pero fabricados. Son una preocupación importante para la desinformación y la integridad de la identidad, especialmente con el auge de los modelos avanzados de IA generativa discutidos a principios de 2024. (Fuente: adaptivesecurity.com)

¿Cuál fue el papel de la ONU en la ética de la IA a principios de 2024? El 11 de marzo, la Asamblea General de las Naciones Unidas aprobó su primera resolución sobre IA, en la que se instaba a sistemas de IA “seguros, protegidos y confiables”. Esto mostró un acuerdo global sobre la necesidad de un desarrollo ético de la IA.


---

### También te puede interesar:

👉 [Predicción de Tendencias del Mercado de Valores: Guía de Aprendizaje Automático y Análisis de Sentimiento](/blog/prediccion-de-tendencias-del-mercado-de-valores-guia-de-aprendizaje-automatico-y-analisis-de-sentimiento/)

👉 [Bots en línea: El reto de detectar su suplantación en X y Facebook](/blog/bots-en-linea-reto-detectar-imitacion-x-facebook/)

👉 [Futuros Sostenibles: Inversión, Ciberseguridad y Futuro del Trabajo](/blog/futuros-sostenibles-inversion-ciberseguridad-futuro-del-trabajo/)