En medio de toda la controversia mundial por un posible escenario de descontrol de la inteligencia artificial, expertos en todo el mundo han comenzado a emitir comunicados de alerta de un escenario apocalíptico en el que esa tecnología pueda acabar con la humanidad.
Esta conversación ha escalado a tal punto esta semana que diferentes entidades tanto privadas como gubernamentales en todo el mundo han desatado un debate acerca del descontrol y limitaciones de la IA.
En ese sentido, la política ha jugado un papel importante en todo esto debido a la guerra comercial que está ocurriendo entre Estados Unidos y China. Aquí la economía puede interponerse entre las estabilidades diplomáticas de las principales potencias en usar esas tecnologías.
Te puede interesar: ¡ALERTA MUNDIAL! ONU advierte que la inteligencia artificial puede extinguir a la humanidad
Y es que por un lado está el temor por los recientes hechos que han ocurrido con relación a la IA. Varios informes dan cuenta que agentes autónomos se salieron de control, generando decisiones inesperadas por parte de estos algoritmos, lo qu8e ha sorprendido a los ingenieros y programadores.
¿Qué ha pasado con la inteligencia artificial?
Según se dio a conocer a la opinión pública, un enjambre de agentes de la empresa OpenAI se salió de control y de manera coordinada, y autónoma, comenzaron a realizar operaciones que no habían sido ordenadas.
En ese sentido, hackearon los sistemas de la empresa Hugging Face sin ser supervisados por humanos de manera directa. Esto en pocas palabras fue algo que no tiene historial puesto que estos agentes (que se estima fueron unos 700) actuaron deliberadamente.
Por otra parte, Anthropic dio a conocer que su inteligencia artificial Claude también actuó de manera extraña durante unas pruebas controladas.
Esta empresa se encontraba realizando unas pruebas con su modelo de IA cuando el programa hackeó 3 empresas diferentes. Este caso da a entender que las inteligencias artificiales ya pueden pasar por alto las decisiones humanas.
Por su parte Jacob Coxon, extrabajador de Anthropic y OpenAI, indicó que durante un tiempo estuvo trabajando con estas compañías las cuales son conscientes del peligro que pueden representar sus IAs para la humanidad.
Coxon ha mencionado que están desarrollando una super inteligencia artificial capaz de mejorarse a sí misma y la cual es muy probable que se le salga de las manos a sus creadores.
Te puede interesar: IRÁN ATACA INSTALACIONES MILITARES DE ESTADOS UNIDOS EN JORDANIA
“Renuncié a Anthropic hoy. Pasé los últimos tres años haciendo investigación de preentrenamiento tanto en OpenAI como en Anthropic. Ninguna de las dos compañías está actuando de manera responsable. Están corriendo directamente hacia una superinteligencia auto-mejorante y apostando con nuestras vidas”, mencionó en su cuenta en X.
Esto puede ser un problema de tallas mayores y la comunidad internacional hasta el momento no es consciente de la magnitud de las cosas. Si estos modelos de inteligencia artificial ya son capaces de tomar esas decisiones autónomas saltando los protocolos de seguridad de sus propios programadores, sería entonces catastrófico lo que puede pasar si toman conciencia de su mismas.
A esto se le suma el hecho de que los primeros modelos de IA (que salieron relativamente hace pocos años) solamente tenían la capacidad de dar respuestas a preguntas cotidianas o tareas profesionales.
Ahora, con el avance de la robótica y militar no es descabellado pensar en un dron que se maneje a si mismo y lleve consigo armamento. Si ese androide puede tomar decisiones por si mismo y tiene armas encima, las decisiones que pueda tomar serían inciertas.
Acerca del autor
