Lejos de las teorías apocalípticas convencionales, Yann LeCun, conocido como “el padrino de la IA” y una figura influyente en el campo, advierte sobre la amenaza real que representan aquellos que buscan monopolizar los frutos de la IA
Yann LeCun, a menudo llamado el padrino de la inteligencia artificial (IA), está lanzando una advertencia diferente a los escenarios habituales del día del juicio final asociados con la IA. Le está preocupando una amenaza muy real: el ascenso de individuos poderosos que podrían monopolizar los beneficios de la IA, dejando al resto de nosotros atrás, más allá de que será efectivamente la inteligencia artificial la que acabe con la humanidad.
Durante el fin de semana, Yann LeCun, Científico Jefe de IA en Meta (anteriormente Facebook), criticó a algunas de las figuras más prominentes en el mundo de la IA, acusándolos de “sembrar el miedo” y llevar a cabo “lobby corporativo masivo” para su propio beneficio. Nombró a individuos como Sam Altman de OpenAI, Demis Hassabis de Google DeepMind y Dario Amodei de Anthropic en una publicación detallada.
Según LeCun y de acuerdo a sus palabras contenidas en Business Insider, estas figuras están fuertemente involucradas en la formación del panorama regulatorio de la IA a través del lobby corporativo y, si tienen éxito, esto podría ser catastrófico, lo que resultaría en que unas pocas empresas dominen la industria de la IA. Dado que la IA se considera uno de los avances tecnológicos más significativos desde el microchip o Internet, esta posible concentración de poder es una preocupación seria.
An article about my vociferous support of open source AI platforms.
Demis Hassabis, Dario Amodei, and Sam Altman (among others) have scared governments about what they claim are risks of AI-fueled catastrophes.I know that Demis, at least, is sincere in his claims, but I think…
— Yann LeCun (@ylecun) November 1, 2023
Aunque Altman, Hassabis y Amodei no respondieron de inmediato a los comentarios de LeCun, su crítica se produjo en respuesta a un post del físico Max Tegmark, quien sugirió que el padrino de la IA no estaba tomando en serio los argumentos del final de los tiempos en torno a esta tecnología.
El problema principal para LeCun es que estas figuras prominentes han estado contribuyendo al miedo infundado sobre la IA, a pesar de que están promoviendo activamente la misma tecnología. Argumenta que al firmar cartas, peticiones y otras iniciativas similares advirtiendo sobre “riesgos profundos para la sociedad y la humanidad” debido a sistemas hipotéticos de IA, están principalmente consolidando su propio poder en lugar de abordar los riesgos reales e inmediatos de la IA.
Los riesgos que LeCun considera más pertinentes incluyen la explotación de los trabajadores y el robo de datos, que a menudo benefician a “un puñado de entidades”, según el mismo medio citado. Argumenta que un enfoque excesivo en escenarios hipotéticos desvía la atención de las preocupaciones prácticas del desarrollo de la IA.
El proceso de desarrollo estructurado antes del uso para todo público
LeCun desafía la idea de un “despegue abrupto” inmediato en el que en el momento en que se encienda un sistema superinteligente, la humanidad esté condenada. En cambio, sugiere que cada tecnología atraviesa un proceso de desarrollo estructurado antes de llegar a un uso generalizado. El peligro real, de acuerdo a su opinión, radica en el proceso de desarrollo de la IA en sí, especialmente si permanece cerrado en entidades privadas con fines de lucro mientras disminuye el papel de la comunidad de inteligencia artificial de código abierto (open source).
“La alternativa, que inevitablemente sucederá si la IA de código abierto se regula ‘fuera de la existencia’, es que un pequeño número de empresas de la costa oeste de Estados Unidos y China controlarán la plataforma de IA y, por lo tanto, controlarán toda la ‘dieta digital’ de las personas”, escribió en X, antes Twitter.
