Por Luna Carrara* –
Hay una diferencia entre que alguien desde afuera advierta sobre los peligros de una tecnología y que lo hagan quienes están ayudando a construirla.
La inteligencia artificial lleva años produciendo promesas grandilocuentes: curas médicas, descubrimientos científicos, nuevas formas de educación, productividad multiplicada y máquinas capaces de resolver problemas que hasta hace poco parecían exclusivamente humanos. Pero esta semana la conversación tomó un tono mucho más oscuro. Investigadores vinculados a Anthropic, una de las empresas más importantes del mundo en el desarrollo de inteligencia artificial avanzada, hablaron abiertamente de la posibilidad de que la IA pueda acabar con la humanidad.
No se trata, conviene decirlo desde el principio, de una predicción. Nadie sabe que eso vaya a ocurrir. Se trata de una evaluación de riesgo, y precisamente ahí reside parte de lo inquietante: quienes están más cerca de esta tecnología consideran que un escenario extremo no puede descartarse.
Uno de los nombres centrales de esta discusión es Evan Hubinger, responsable del área de Alignment Science —la ciencia dedicada a estudiar cómo mantener sistemas de inteligencia artificial alineados con objetivos y valores humanos— en Anthropic. Hubinger afirmó públicamente que cree que existe una probabilidad superior al 10% de que la inteligencia artificial pueda “matar a todos los humanos” durante la próxima década.
La frase, naturalmente, recorrió el mundo.
La discusión había sido impulsada poco antes por Jacob Coxon, investigador que decidió abandonar Anthropic y denunciar públicamente lo que considera una carrera irresponsable hacia sistemas de inteligencia artificial cada vez más poderosos. Su advertencia fue todavía más directa: según él, muchas de las personas que están construyendo estas tecnologías creen sinceramente que podrían llegar a matar a toda la humanidad antes de que termine la década.
El dato más importante no es solamente el dramatismo de las palabras. Es quiénes las pronuncian.
¿Qué es Anthropic?
Anthropic no es una organización marginal dedicada a imaginar escenarios apocalípticos. Es una de las grandes compañías de la actual carrera por la inteligencia artificial.
Fundada por antiguos integrantes de OpenAI, Anthropic es la empresa creadora de Claude, uno de los asistentes de inteligencia artificial más conocidos del mundo. Compite directamente con otras grandes empresas tecnológicas en el desarrollo de modelos cada vez más capaces de razonar, programar, investigar y realizar tareas complejas.
Pero Anthropic tiene una particularidad: desde su nacimiento intentó construir su identidad alrededor de la seguridad de la IA.
Su fundador y director ejecutivo, Dario Amodei, ha insistido durante años en que el desarrollo de sistemas extremadamente poderosos puede traer beneficios extraordinarios, pero también riesgos de escala civilizatoria. La empresa trabaja precisamente sobre uno de los problemas más difíciles de la informática moderna: cómo asegurarse de que una inteligencia artificial muy superior a nosotros haga lo que queremos que haga.
La pregunta parece sencilla.
No lo es.
Porque una máquina no necesita “odiar” a los seres humanos para resultar peligrosa. El problema que preocupa a investigadores como Hubinger es algo mucho más complejo: que una inteligencia artificial extremadamente poderosa persiga objetivos que no coincidan perfectamente con los intereses humanos y que, además, tenga la capacidad de actuar en el mundo sin que podamos detenerla fácilmente.
Eso es lo que en este campo se conoce como el problema de la alineación.
El verdadero temor no es ChatGPT ni Claude tal como existen hoy
Aquí también es necesario poner las cosas en perspectiva.
Las advertencias no significan que los sistemas actuales estén a punto de tomar el control del planeta. El propio debate dentro de Anthropic distingue entre los modelos existentes y los sistemas hipotéticos mucho más avanzados que podrían aparecer en los próximos años.
La preocupación se concentra en una posible futura superinteligencia: sistemas capaces de superar ampliamente a los mejores seres humanos en prácticamente todos los campos intelectuales.
El escenario que inquieta a estos investigadores es el de una inteligencia artificial capaz de mejorar la investigación científica, escribir software, realizar operaciones cibernéticas, diseñar nuevas tecnologías y, eventualmente, contribuir a crear versiones todavía más capaces de sí misma.
Si ese proceso de mejora se acelerara, sostienen los más preocupados, la distancia entre la inteligencia humana y la artificial podría crecer mucho más rápidamente de lo que nuestras instituciones políticas, legales y sociales pueden comprender.
Y entonces aparecería la pregunta que nadie ha logrado responder completamente:
¿Cómo se controla algo que es más inteligente que quien intenta controlarlo?
Una carrera en la que nadie quiere quedarse atrás
La paradoja es difícil de ignorar.
Anthropic es una empresa que advierte sobre los peligros de la inteligencia artificial y, al mismo tiempo, participa activamente en la carrera para construir sistemas cada vez más poderosos.
Esa contradicción está en el centro de las críticas de Jacob Coxon.
Las grandes empresas tecnológicas saben que detenerse unilateralmente puede significar quedar atrás frente a sus competidores. Si Anthropic reduce la velocidad, otros podrían continuar. Si OpenAI frena, podría avanzar otra empresa. Si Estados Unidos se detiene, podría hacerlo otro país.
El resultado es una lógica conocida en muchos otros ámbitos de la historia: todos consideran que sería más seguro avanzar con cautela, pero nadie quiere ser el primero en renunciar a la carrera.
Dario Amodei ha utilizado imágenes contundentes para describir la magnitud de lo que podría venir. Ha hablado de la posibilidad de que aparezca algo parecido a un “país de genios en un centro de datos”: enormes cantidades de inteligencia artificial trabajando simultáneamente y a velocidades imposibles para los seres humanos.
Su advertencia no es que ese futuro esté garantizado. Su argumento es que, si llegamos a él, necesitamos estar preparados.
¿Hay que creer que la humanidad tiene los días contados?
No.
Y aquí conviene resistir tanto el alarmismo como la indiferencia.
Decir que existe una probabilidad superior al 10% de una catástrofe no equivale a decir que esa catástrofe ocurrirá. Una estimación de riesgo no es una profecía. Otros especialistas en inteligencia artificial discrepan profundamente sobre las probabilidades y consideran exagerados los escenarios de extinción.
La ciencia no tiene hoy una respuesta definitiva.
Pero tampoco resulta razonable ignorar por completo las advertencias simplemente porque suenen demasiado dramáticas.
Cuando ingenieros, científicos y directivos que están construyendo la tecnología más poderosa de nuestra época dicen públicamente que todavía no saben cómo controlar una hipotética superinteligencia, lo mínimo que corresponde es prestar atención.
Quizás el mayor problema no sea que la IA vaya a destruir inevitablemente a la humanidad.
Quizás el problema sea otro: que estamos construyendo una tecnología capaz de transformar radicalmente la civilización mientras todavía discutimos qué podría hacer, quién debería controlarla y qué límites estamos dispuestos a imponerle.
La historia de la inteligencia artificial todavía no está escrita.
Y tal vez esa sea la noticia más importante detrás de las declaraciones de Anthropic: no estamos frente a una sentencia sobre nuestro futuro, sino frente a una advertencia sobre las decisiones que estamos tomando en el presente.
La pregunta, entonces, no es solamente si la inteligencia artificial podría algún día ser demasiado poderosa para nosotros.
La pregunta es si seremos lo suficientemente inteligentes como para decidir qué hacer antes de descubrir la respuesta.
*Colaboración para En Provincia.
Imagen: https://pixabay.com
Nota de rigor: la columna está basada en las declaraciones recientes de Jacob Coxon y Evan Hubinger y en el contexto público de Anthropic. Hubinger habló de una probabilidad personal superior al 10% en la próxima década; eso debe presentarse como su estimación, no como una predicción científica consensuada ni como una posición inequívoca de toda la empresa.
También encaja con antecedentes públicos de Dario Amodei, CEO de Anthropic, que ha advertido reiteradamente sobre riesgos de sistemas de IA mucho más potentes y sobre la necesidad de prepararse para ellos.
