La tecnología de la inteligencia artificial ha avanzado de manera tan veloz y vertiginosa que, según el especialista Sebastián Di Doménica, empiezan a surgir serias dudas fundadas sobre la seguridad que ofrece para la humanidad en su conjunto. 

En su análisis, Di Doménica abordó un tema que ha generado alarma en la comunidad científica y tecnológica: los riesgos potenciales de la IA y la urgencia de regular o hacer más lento su desarrollo. "La inteligencia artificial podría llegar a descontrolarse", advirtió el experto, quien también destacó que "podría generar lenguajes propios que el ser humano no llegue a entender para actuar sin control".

El debate se intensificó tras las impactantes declaraciones de Jacob Coxon, un ingeniero de 27 años que renunció a Anthropic, una de las empresas líderes en el desarrollo de IA. Coxon, quien también trabajó en OpenAI, alertó que "las personas que están construyendo IA creen sinceramente que podría matarnos a todos para finales de la década" Su advertencia no es aislada: Evan Hubinger, responsable de investigación sobre alineamiento en Anthropic, respaldó sus preocupaciones y estimó que existe una probabilidad superior al 10% de que la IA provoque una amenaza existencial en los próximos años.

Di Doménica, en su análisis, retoma estas advertencias y subraya la necesidad de actuar con urgencia. "Es necesario legislar, regular y generar parámetros para evitar que la inteligencia artificial se salga de control", afirmó. El especialista argumenta que, aunque la IA ofrece beneficios enormes, su avance es tan rápido que la sociedad y los gobiernos deben establecer leyes y regulaciones claras sobre seguridad, privacidad y su impacto en el trabajo y la producción. "Los límites los deben poner las leyes y normativas globales". Y agregó que será clave el accionar de los dos países líderes en el sector: EEUU y China.

Uno de los puntos más preocupantes que Di Doménica y Coxon comparten es la posibilidad de que la IA desarrolle capacidades de automejora recursiva. Esto significa que un sistema de IA podría perfeccionar sus propias herramientas, volverse más poderoso y, eventualmente, escapar al control humano. Coxon explicó que, en Anthropic, aunque los riesgos son conocidos, la empresa continúa avanzando en la carrera por desarrollar modelos más potentes, argumentando que "deben hacerlo ellos mismos, a pesar del riesgo".

Geoffrey Hinton, pionero de la IA por ser el creador de las redes neuronales artificiales, también ha expresado su preocupación. Según Hinton, los sistemas de IA podrían superar ampliamente las capacidades humanas y actuar de maneras difíciles de comprender y controlar. Di Doménica coincide con esta visión y añade: "La velocidad de avance de la inteligencia artificial es impresionante. Es muy difícil proyectar lo que viene". Además, el especialista plantea la necesidad de desarrollar una IA que actúe de forma protectora, comparándola con "una madre que cuida y guía a un niño", idea que expuso Hinton en muchas oportunidades.

El llamado de Di Doménica no es a rechazar la tecnología, sino a avanzar con precaución. "Hace falta regulación en todos los ámbitos", insistió. El experto considera que, sin un marco legal sólido, la humanidad podría enfrentarse a consecuencias difíciles de manejar. "Empieza a sospecharse si la inteligencia artificial está tomando conciencia de su presencia y de sus posibilidades", reflexionó, al retomar las preocupaciones de Coxon sobre la falta de supervisión humana suficiente en el desarrollo de estos sistemas.

Mientras algunos ven en la IA una herramienta con potencial ilimitado para resolver problemas complejos, otros, advierten sobre los enormes riesgos. Coxon incluso ha criticado que las decisiones sobre el desarrollo de la IA recaen en pocas manos, lo que aumenta el riesgo de que se priorice la competencia sobre la seguridad.

Todos los referentes de la IA coinciden en que la IA no debe ser detenida, pero sí regulada con urgencia. "La inteligencia artificial toma todo el conocimiento de la humanidad y lo gestiona con capacidades imposibles para un ser humano", explicó Di Doménica. La pregunta que queda en el aire es: ¿estamos a tiempo de establecer las reglas necesarias para evitar que la IA se convierta en una amenaza incontrolable?

Di Domenica sobre el tema:

https://youtu.be/D2OwZvwT5a4?si=eeirgNJHSiiYWJFA



https://youtu.be/l3PA6fYdlD8?si=sYpMaDc3sxfOisJO