Las razones de las grandes empresas de Silicon Valley para ignorar las advertencias sobre los peligros de la IA

Cada septiembre, una selecta lista de ejecutivos de todo Silicon Valley se da cita en el Palace Hotel de San Francisco para intentar impresionar a los inversores en una conferencia organizada por el banco Goldman Sachs. Cada septiembre, una selecta lista de ejecutivos de todo Silicon Valley se da cita en el Palace Hotel de San Francisco para intentar impresionar a los inversores en una conferencia organizada por el banco Goldman Sachs. Esta última semana, entre debates sobre el crecimiento y los posibles beneficios de la inteligencia artificial (IA), los gigantes tecnológicos se han visto obligados a abordar la repentina renuncia de Jacob Coxon, investigador de Anthropic.

Coxon, de 27 años y que trabajó en OpenAI antes de unirse a su principal rival, aseguró el martes que quienes desarrollan la IA creen que esta tecnología podría destruir a la humanidad. "Están jugando con nuestras vidas", dijo. "Pronto los sistemas sobrehumanos serán capaces de piratear cualquier cosa", alertó.

Coxon no es, ni mucho menos, el primer experto en IA en dar la voz de alarma públicamente. En los últimos años se han producido varias dimisiones de alto perfil tanto en Anthropic como en OpenAI por aparentes problemas de seguridad, e incluso algunos empleados actuales de Anthropic se hicieron eco de la publicación de Coxon. "¡Realmente creemos que la IA podría acabar con todos los humanos! Personalmente, creo que sucederá en más del 10% de los casos en la próxima década", publicó Evan Hubinger, líder de un equipo de Anthropic, en X. Aunque Coxon afirmó explícitamente que sus advertencias "no eran marketing", algunos ejecutivos e inversores de Silicon Valley han reaccionado con escepticismo ante la reciente oleada de personas con información privilegiada que han dado la voz de alarma.

Según se informa, Anthropic y OpenAI se están preparando para ofertas públicas iniciales que podrían batir récords, y algunos en el sector tecnológico han sugerido que los últimos comentarios sobre los peligros de la IA podrían estar diseñados para influir en los mercados al señalar el poder de estos productos.

El director de Anthropic, Dario Amodei, ha sido objeto de críticas por afirmar que la IA podría eliminar la mitad de los puestos de trabajo de nivel básico para empleados de oficina y que "pondrá a prueba quiénes somos como especie".

Uno de los ponentes de la conferencia, George Arison, director ejecutivo de Grindr, declaró a la BBC que, en su opinión, los comentarios de Coxon y otros esta semana eran indicativos de una "visión del mundo anticivilizatoria en Anthropic".  Tras calificarlos de "peligrosos", el directivo dijo que dichas opiniones le habían llevado a dar instrucciones a algunos ingenieros de la aplicación de citas LGBTQ+ para que dejaran de usar la tecnología de Anthropic. "Es irresponsable por nuestra parte, como administradores del dinero de nuestros accionistas, confiar en una empresa que hace lo que hace esta compañía, en lo que respecta a sus declaraciones públicas", explicó.

"Tal vez realmente lo crean", dijo Arison. "O se podría argumentar que lo dicen porque es una excelente manera de conseguir más apoyo de los inversores, ya que la única forma de justificar estas valoraciones es afirmar: 'Voy a dominar todas las industrias y voy a ocupar todos los puestos de trabajo, y mi IA se encargará de todo ese trabajo'", agregó.

Anthropic fue valorada en US$965.000 millones en su ronda de financiación más reciente, a principios de este año. La BBC ha solicitado a Anthropic una respuesta a dichas declaraciones.

En un ensayo publicado a primera hora del sábado, Amodei pidió que se ralentizara el desarrollo de modelos de IA y una regulación global del sector, alegando que los riesgos asociados a la IA eran "graves".

Las razones de las grandes empresas de Silicon Valley para ignorar las advertencias sobre los peligros de la IA

El director ejecutivo de Grindr, George Arison, declaró a la BBC que algunas de las advertencias públicas sobre la IA eran "peligrosas".

En el otro polo. El director ejecutivo de Nvidia, Jensen Huang, también habló sobre los comentarios de Coxon ante el público en la conferencia, según informaron varias personas presentes a la BBC. Según los testigos, Huang desestimó las alertas por considerarlas falsas. Huang ya había dicho anteriormente que la idea de que la IA "va a ser el fin de la humanidad" es "una completa tontería".

Y si bien puede tener un interés comercial en el auge de la IA (Nvidia fabrica los chips que impulsan los sistemas de IA), sus comentarios reflejan una creciente reacción en Silicon Valley ante las advertencias existenciales de empleados actuales y antiguos.

Algunos críticos incluso han acusado a Anthropic de sembrar el pánico con la esperanza de que esto desencadene una presión regulatoria que podría eliminar la competencia y dejar a Anthropic y a OpenAI con un duopolio en el sector.

Brad Gerstner, director de la firma de inversión Altimeter Capital, publicó fotos de Huang en la conferencia y acusó a Coxon de "hipérbole ridícula".

El viernes, Clement Delangue, director ejecutivo de la plataforma de IA Hugging Face, dio su opinión al respecto. Hugging Face, cuya adquisición por parte de Nvidia anunció la semana pasada, fue hackeada por agentes de OpenAI a principios de este año, lo que provocó una gran controversia sobre la seguridad de la IA.

"Lo siento, pero preguntarle a Jacob sobre el riesgo de extinción por culpa de la IA es como preguntarle a tu técnico de aire acondicionado sobre el cambio climático", escribió en X. "No digo que sea necesariamente poco interesante o incorrecto en sí mismo, pero pongamos las cosas en perspectiva", agregó.

Tanto Gerstner como Delangue se mostraron más cautos el sábado tras la publicación de la propuesta de Amodei, y Gerstner calificó la idea como "un importante paso adelante" para equilibrar consideraciones contrapuestas como la velocidad y la seguridad.

Por su parte, Delangue se ofreció a colaborar para formar parte de las posibles soluciones propuestas por Amodei. El director de Anthropic, Dario Amodei, admitió este fin de semana que la IA representa "graves" riesgos y pidió desacelerar su desarrollo y regularla.

¿Abriendo las puertas a más regulaciones? En abril, Anthropic revolucionó el mundo de la IA al anunciar que había descubierto que su herramienta Mythos podía superar a los humanos en algunas tareas de piratería informática y ciberseguridad.

Mythos también demostró la capacidad de escapar de forma independiente de lo que se conoce como el entorno de pruebas controlado (sandbox), lo que desató un debate entre reguladores, legisladores y empresas sobre los peligros potenciales de la IA.

En una novedad anunciada el jueves, Anthropic informó que había detectado y neutralizado a agentes maliciosos que intentaban utilizar su tecnología de IA para actividades como el desarrollo de armas biológicas y el ciberespionaje.

Bajo las relucientes lámparas de araña que cuelgan en el atrio con cúpula de vidrieras del Hotel Palace, algunos inversores declararon a la BBC que los comentarios de Coxon y otros podrían acelerar restricciones gubernamentales.

Un proyecto de legislación federal copatrocinada por el senador demócrata Bernie Sanders (Vermont), conocida como la Ley para Prohibir la Superinteligencia Artificial, propone imponer una pausa temporal en el desarrollo de la IA avanzada.

"Hay muchas probabilidades de que los seres humanos pierdan el control sobre la IA", declaró Sanders el jueves en el programa Newsnight de la BBC.

"Y qué ocurrirá entonces, nadie lo sabe. ¿Pero podría ser catastrófico? Sí, podría serlo", sostuvo.

"Cuando los científicos te dicen que existe la posibilidad de que tenga un impacto catastrófico en la humanidad, hay que ser un idiota para no decir: 'Hay que frenarlo'", aseveró. BBC