Magnates de la IA coinciden en desacelerar su desarrollo
El director ejecutivo y cofundador de Anthropic, Dario Amodei, llamó a que las empresas de inteligencia artificial (IA) avancen de manera más lenta y cautelosa en el desarrollo de dicha tecnología, privilegiando la prevención y contención de riesgos, Sam Altman, CEO de OpenAI, e Elon Musk, de XAI, expresaron su respaldo a dicha postura.
“Debemos reducir el ritmo al que mejoramos las capacidades de los modelos de IA. El progreso seguirá pareciendo rápido, y debemos hacer un uso inteligente del tiempo que ganemos”, escribió Amodei en una entrada de blog.
“No construir la tecnología priva a la humanidad de beneficios o simplemente pone la IA en manos de poderes autoritarios, mientras que construirla demasiado rápido es imprudente. Hemos tratado de buscar una vía intermedia […] pero en los últimos meses me he convencido de que abordar plenamente los riesgos requiere aún más prudencia”, dijo Amodei.
“Estoy de acuerdo con Darío“, escribió Sam Altman en X, añadiendo que su empresa seguirá el ejemplo de Amodei al aceptar evaluadores externos de seguridad.
“Darío tiene razón“, intervino Elon Musk de su lado.
Dichas afirmaciones hacen eco de la salida del investigador de IA Jacob Coxon, que había dejado OpenAI para incorporarse a Anthropic, y hace unos días anunció que abandonaría la industria, acusando a ambas empresas estadounidenses de poner en peligro a la humanidad en la carrera por desarrollar modelos capaces de automejorarse.
A principios de esta semana, Coxon, de 27 años, hizo sonar la alarma tras haber pasado los tres últimos años preentrenando modelos de IA.
“Ninguna de las dos empresas está actuando de forma responsable. Están corriendo directamente hacia una superinteligencia capaz de automejorarse y jugando con nuestras vidas”, dijo Coxon el martes.
Al mismo tiempo, más de 1.000 empleados de empresas punteras de IA, incluido Amodei, firmaron una petición al gobierno estadounidense solicitando ayudar a “marcar deliberadamente el ritmo de la frontera del desarrollo automatizado de IA”.