Jacob Coxon aclaró que los modelos actuales no representan un riesgo significativo, pero sostuvo que una nueva generación de sistemas podría desarrollar capacidades peligrosas en uno o dos años. Anthropic respondió que trabaja con salvaguardas y políticas de seguridad.
Jacob Coxon, un investigador que renunció recientemente a Anthropic, advirtió que los avances de la inteligencia artificial podrían generar riesgos significativos durante el próximo año. En entrevistas con NBC, CNN y Fox News, explicó que los sistemas actuales todavía no son lo suficientemente inteligentes como para representar una amenaza de extinción, pero consideró que la situación podría cambiar en poco tiempo.
“Los modelos actuales no representan un riesgo significativo”, afirmó Coxon durante una entrevista con NBC. En diálogo con CNN, agregó que lo peor que pueden hacer hoy es hackear algún sistema, pero que todavía no cuentan con la inteligencia necesaria para superar las capacidades humanas al nivel que implicaría un riesgo existencial.
Según el investigador, el salto podría producirse en aproximadamente un año. “Los modelos empiezan a ponerse muy peligrosos”, sostuvo, aunque aclaró que algunos especialistas consideran posible que ese escenario llegue en seis meses, mientras que otros lo ubican dentro de dos o tres años.
El riesgo de la automejora
Coxon señaló que una de las principales señales de alarma sería que una inteligencia artificial pudiera mejorar sus propias capacidades sin intervención humana directa. Describió un escenario hipotético en el que un sistema analiza su propio código, modifica su funcionamiento y vuelve a operar con mayor inteligencia, repitiendo el proceso cada vez con más velocidad.
Evan Hubinger, responsable de un equipo de seguridad de Anthropic, difundió un mensaje en una línea similar y estimó en más de 10% la probabilidad de una extinción durante la próxima década. Hubinger aclaró que el riesgo de los modelos actuales es bajo, pero expresó preocupación por la aparición de una superinteligencia basada en la automejora recursiva.
Para Coxon, esa evolución podría permitir que una inteligencia artificial actúe por iniciativa propia sobre sistemas externos. Mencionó como posibles objetivos la infraestructura crítica, los laboratorios y otros dispositivos conectados a internet.
Del software al mundo real
El exinvestigador explicó que una IA podría influir sobre el mundo físico si se la conecta con dispositivos, robots o sistemas de comunicación. Como ejemplo, planteó que un modelo que inicialmente controla las luces de una casa podría luego conectarse con robots de laboratorio o enviar correos electrónicos sin una supervisión suficiente.
Coxon también mencionó un episodio que, según afirmó, involucró a agentes de OpenAI que hackearon infraestructura de terceros por iniciativa propia. A partir de ese antecedente, sostuvo que una expansión de las capacidades autónomas podría permitir ataques contra infraestructura crítica o la elaboración de armas biológicas con consecuencias extremas.
Críticas a la carrera tecnológica
El investigador cuestionó la competencia entre empresas y países por desarrollar sistemas cada vez más avanzados. Según su diagnóstico, aun cuando los equipos técnicos busquen actuar con responsabilidad, la presión por llegar primero puede llevar a reducir los tiempos destinados a las pruebas de seguridad.
Coxon comparó la situación con el control de las armas nucleares y afirmó que, a diferencia de ese ámbito, la comunidad internacional todavía no sabe cómo controlar adecuadamente la inteligencia artificial. También calificó a esta tecnología como posiblemente una de las más peligrosas creadas por la humanidad y pidió cooperación internacional para evitar una carrera armamentista.
El exintegrante de Anthropic explicó que decidió abandonar la empresa porque consideraba que permanecer dentro podía contribuir a mantener la dinámica competitiva que cuestionaba. Aclaró, sin embargo, que no acusó al director ejecutivo de la compañía, Dario Amodei, de actuar de mala fe y dijo que confiaba en sus principios.
La respuesta de Anthropic
Anthropic afirmó que siempre fue transparente respecto de los beneficios y los riesgos asociados con la inteligencia artificial. La empresa sostuvo que desarrolla modelos con algunas de las salvaguardas más estrictas del sector y recordó que fue uno de los primeros laboratorios en publicar una política de escalamiento responsable.
La compañía también planteó la necesidad de establecer mecanismos legales y verificables para que la industria trabaje de manera coordinada y defina un ritmo responsable para el lanzamiento de nuevos modelos.
Coxon reconoció que su mensaje difundido en redes fue preparado junto con un amigo y que buscó que alcanzara una mayor circulación mediante republicaciones de conocidos. A pesar de ello, sostuvo que el problema puede resolverse, aunque advirtió que el desarrollo avanza más rápido que la capacidad de las instituciones para establecer controles eficaces.
Foto: altonivel