¿Puede matarnos la inteligencia artificial? Quizá Europa no estaba tan equivocada
He visto el vídeo publicado por la BBC sobre las alarmantes advertencias de varios investigadores de inteligencia artificial, un asunto que también ha sido ampliamente recogido por The Guardian y otros medios internacionales.
La regulación de la inteligencia artificial lleva años siendo cuestionada por quienes consideran que puede frenar la innovación. Sin embargo, las últimas advertencias procedentes de la propia industria tecnológica deberían hacernos pensar.
Las advertencias proceden de la propia industria
Jacob Coxon, antiguo investigador de Anthropic —y anteriormente de OpenAI—, abandonó su puesto tras advertir de que las principales compañías tecnológicas están compitiendo por desarrollar una inteligencia artificial cada vez más avanzada sin disponer todavía de garantías suficientes para controlar sus riesgos.
Su advertencia es extrema: sostiene que quienes trabajan directamente en el desarrollo de estos sistemas creen sinceramente que la inteligencia artificial podría llegar a provocar la extinción de la humanidad.
Podemos considerar esta predicción exagerada. Pero resulta más difícil ignorarla cuando no procede únicamente de observadores externos, sino de personas que conocen esta tecnología desde dentro.
La petición de ralentizar el desarrollo de la IA
Dario Amodei, cofundador y CEO de Anthropic, también ha pedido que se ralentice el desarrollo de los modelos de IA más avanzados. No propone detener por completo el progreso tecnológico, sino acompasar el aumento de sus capacidades con la investigación en seguridad, la supervisión independiente y la creación de mecanismos eficaces de control.
Su petición ha recibido el respaldo de Sam Altman, CEO de OpenAI, y de Elon Musk, entre otras figuras relevantes del sector.
Y esto debería hacernos pensar.
Europa trabaja en la gobernanza de la IA desde 2018
Desde hace años, la Unión Europea recibe críticas constantes por su empeño en regular la inteligencia artificial. Se afirma que tanta normativa frena la innovación, reduce nuestra competitividad y nos hace perder la carrera frente a Estados Unidos y China.
Sin embargo, la Unión Europea lleva trabajando de forma estructurada en la gobernanza de la inteligencia artificial desde 2018. Primero llegaron la estrategia europea y el Plan Coordinado sobre IA; después, las Directrices éticas para una IA fiable de 2019 y el Libro Blanco sobre inteligencia artificial de 2020. En 2021, la Comisión Europea presentó la propuesta del Reglamento de Inteligencia Artificial, que finalmente fue aprobado y entró en vigor en 2024.
Pero ¿y si esta carrera no consistiera solamente en llegar primero?
¿Y si también importara saber hacia dónde vamos, qué riesgos estamos dispuestos a asumir y quién responderá cuando algo salga mal?
¿Debemos escuchar estas advertencias?
Es la primera vez que escucho a algunas de las personas situadas en el corazón de esta industria expresarse con tanta claridad. Naturalmente, también debemos examinar sus declaraciones con cautela. Las advertencias pueden responder a preocupaciones auténticas, pero también coinciden con intereses empresariales, luchas por el liderazgo y enormes valoraciones económicas.
Aun así, cuando demasiadas voces conocedoras de la tecnología nos dicen que debemos reducir la velocidad y pensar, quizá lo irresponsable sería no escucharlas.
Hoy no podemos prescindir de la inteligencia artificial. Yo misma soy una gran usuaria y contemplo con admiración todo lo que puede hacer. Precisamente por eso creo que su desarrollo debe ir acompañado de normas, controles y supervisión humana.
Innovación y regulación no son enemigas
La innovación y la regulación no tienen por qué ser enemigas. Regular no significa necesariamente impedir el progreso: también puede significar establecer las condiciones para que ese progreso sea seguro, responsable y compatible con nuestros derechos.
En Bennet & Rey Abogados somos firmes defensores de una regulación de la inteligencia artificial que proteja los derechos de las personas sin impedir la innovación. No defendemos regular por regular ni imponer cargas innecesarias a las empresas. Defendemos unas normas claras, proporcionadas y basadas en el riesgo, que permitan aprovechar las extraordinarias posibilidades de la IA con seguridad, transparencia y supervisión humana.
Porque regular la inteligencia artificial no significa estar en contra de ella. Al contrario: significa querer que se desarrolle bien, que genere confianza y que permanezca al servicio de las personas.
Quizá Europa no haya entendido peor la inteligencia artificial.
Quizá simplemente haya comprendido antes que una tecnología con un poder extraordinario también exige una responsabilidad extraordinaria.
Transparencia sobre la elaboración de este artículo
Por cierto, este artículo ha sido elaborado con ayuda de inteligencia artificial y supervisión humana. Primero escribo el texto; después utilizo la IA para revisarlo y estructurarlo; finalmente, vuelvo a examinarlo y realizo los cambios que considero necesarios.
La imagen que acompaña al artículo también ha sido generada mediante inteligencia artificial.
