Existe un enorme entusiasmo por la Inteligencia Artificial (IA), pero al mismo tiempo observamos con preocupación sobre los posibles efectos secundarios debido al rápido desarrollo de esta tecnología. La sociedad, trabajadores de distintos sectores, académicos, responsables políticos e incluso voces de la propia industria tecnológica han expresado su preocupación por la deriva de desarrollo de la IA, su ritmo y sus riesgos reales y potenciales. Muchas personas ya están experimentando directa e indirectamente algunos de los efectos adversos, los responsables políticos se han apresurado a aprobar normativas para garantizar la seguridad de las personas, al tiempo que intentan equilibrar y garantizar que también se aprovechen los beneficios de la IA.
La Ley Europea de Inteligencia Artificial es un claro ejemplo de cómo la UE ha pasado a regular la IA con el objetivo de «garantizar que la IA trabaje para las personas y sea una fuerza positiva para la sociedad». Ya escribimos un extenso artículo sobre el tema, cubriendo los detalles y lo que significa para las organizaciones que quieren proporcionar aplicaciones y modelos GenAI, que puedes encontrar aquí.
No sólo dentro de la UE, sino en todo el mundo, los gobiernos se están moviendo para regular la IA: la Ley Canadiense de Inteligencia Artificial y Datos (AIDA), la Ley de Equilibrio de la IA de Australia, y la introducción por parte del gobierno chino de normas para la IA generativa, son algunos de los primeros ejemplos que vienen inmediatamente a la mente. Incluso el Gobierno de EE.UU. ha dado recientemente pasos hacia la regulación de la IA, aunque con un enfoque de compromiso voluntario que probablemente se endurecerá en los próximos años debido a las críticas emergentes sobre su falta de garantías de seguridad y responsabilidad.
Entonces, ¿cuáles son los riesgos específicos que impulsan estos avances normativos en torno a la IA?
Para responder a esta pregunta, desgranaremos y profundizaremos en algunos de los aspectos específicos, sobre todo en torno a la denominada tecnología de IA generativa. Este paper (solo disponible en inglés) se centra principalmente en las implicaciones de seguridad desde una perspectiva privada y pública para ilustrar algunos de los riesgos. A pesar de este enfoque limitado, sigue siendo importante señalar que las consideraciones de seguridad no son, ni de lejos, los únicos riesgos de este tipo de tecnología ni de la IA en general, sino un buen punto de entrada en el panorama de los riesgos de la IA.
