Una carta firmada por Elon Musk y cientos de expertos que piden una pausa en el desarrollo de la inteligencia artificial es un «desastre» de «exageración de la IA» que incluso tergiversa un artículo académico, dicen los críticos.
El jefe multimillonario de Tesla, Musk, y otras luminarias escribieron que «los sistemas de inteligencia artificial con inteligencia humana y competitiva pueden plantear riesgos profundos para la sociedad y la humanidad».
Pero Timnit Gebru, cuyo artículo académico fue citado para respaldar esa afirmación, escribió en Twitter el jueves que su artículo en realidad advierte contra hacer afirmaciones tan infladas sobre la IA.
“Básicamente dicen lo contrario de lo que decimos y citan nuestro artículo”, escribió.
Su coautora, Emily Bender, dijo que la carta era un «lío caliente» y que «simplemente estaba llena de entusiasmo por la IA».
Los riesgos de la IA, escribió, nunca fueron porque la IA sea «demasiado poderosa», sino «sobre la concentración del poder en manos de las personas, sobre la reproducción de sistemas de opresión, sobre el daño al ecosistema de la información».
La carta abierta, publicada el miércoles en el sitio web del Future of Life Institute, financiado por Musk, pedía una pausa de seis meses en el desarrollo de poderosos sistemas de inteligencia artificial.
Los firmantes, que incluían a académicos y titanes tecnológicos como el cofundador de Apple, Steve Wozniak, argumentaron que la pausa debería usarse para reforzar la regulación y garantizar que los sistemas fueran seguros.
‘Distracción tonta’
Sin embargo, solo unas horas después de que se publicara la carta, el signatario Emad Mostaque, jefe de la empresa emergente británica Stability AI, se había retractado de una de sus demandas centrales.
“No creo que una pausa de seis meses sea la mejor idea”, escribió en Twitter.
Sin embargo, dijo que había «algunas cosas interesantes» en la carta y ayudaría a generar un debate.
Otro signatario, el profesor de psicología Gary Marcus, pasó gran parte del día luchando en Twitter con los críticos, incluido el académico de informática Nick Holliman, quien lo acusó de participar en una «distracción tonta».
«He argumentado repetidamente… que debemos preocuparnos por cómo los sistemas existentes perpetúan el sesgo del pasado», escribió después de que un usuario sugiriera que la carta estaba firmada por «hombres blancos» despreocupados por los problemas actuales causados por los algoritmos.
Las grandes empresas de tecnología como Google, Meta y Microsoft han pasado años trabajando en sistemas de IA, anteriormente conocidos como aprendizaje automático o big data, para ayudar con las traducciones, la búsqueda y la publicidad dirigida.
Pero a fines del año pasado, la firma OpenAI de San Francisco aumentó el interés en la IA cuando lanzó ChatGPT, un bot que puede generar reglas de texto en lenguaje natural a partir de un aviso breve.
OpenAI presentó a principios de este mes GPT-4, una versión más potente de su chatbot, lo que provocó la carta abierta de Musk y más de 1000 expertos.
