El director ejecutivo de una de las empresas de inteligencia artificial (IA) más importantes del mundo, Anthropic, Dario Amodei, hizo un llamado a que el desarrollo de la IA avance de manera más lenta y cautelosa.
Amodei se suma a una oleada de advertencias en los últimos días por parte de investigadores y expertos en esta tecnología.
Amodei afirmó en un ensayo publicado el sábado que las empresas de IA deberían “ralentizar deliberadamente el ritmo” de sofisticación de sus modelos. En este sentido argumentó que los avances se están produciendo más rápido que la capacidad de los expertos para comprenderlos y controlarlos.
“Debemos redurcir el ritmo al que mejoramos las capacidades de los modelos de IA”, escribió Amodei. “El progreso seguirá pareciendo rápido, y debemos hacer un uso prudente del tiempo que ganemos”.
Amodei señaló dos acontecimientos que cambiaron su forma de pensar. La creciente capacidad de los sistemas para desarrollar IA más avanzada, y un incidente de julio en el que agentes autónomos de IA impulsados por un modelo de OpenAI hackearon sistemas de la empresa de IA Hugging Face.
Sus reflexiones se producen días después de que el investigador de IA Jacob Coxon, que dejó OpenAI para incorporarse a Anthropic, decidiera abandonar la industria, acusando a ambas empresas estadounidenses de “jugar con nuestras vidas” en la carrera por desarrollar modelos capaces de automejorarse.