El pionero de la inteligencia artificial renuncia a Google: «la evolución es aterradora»

Pionero de la inteligencia artificial: Científico que trabaja desde los años 1970 con inteligencia artificial sale ahora de Google para poder alertar sobre los riesgos del desarrollo de nuevas aplicaciones tecnológicas, como ChatGPT.

El pionero de la inteligencia artificial renuncia a Google

Geoffrey Hinton es uno de los pioneros de la inteligencia artificial; no es casualidad que lo llamen el «padrino» de la inteligencia artificial. Después de décadas de investigación en el área, se unió a Google en 2013 y de donde salió este lunes, según cuenta el diario estadounidense. A los 75 años, se jubila para «poder hablar sobre los peligros de la inteligencia artificial sin tener que considerar el impacto que tendrá en Google», resume Geoffrey Hinton en un tuit.

El científico británico, desde hace décadas radicado en la Universidad de Toronto (Canadá), pasa de Creador a crítico de un área de la tecnología que tuvo en 2022 su primer gran impacto global, con el lanzamiento de ChatGPT en noviembre, pero también de otras herramientas en las que se producen voces o imágenes en segundos. «Mira cómo era hace cinco años y cómo es ahora», dice Geoffrey Hinton. «Toma esa diferencia y multiplícala para el futuro. [La evolución] es aterradora.”

Las críticas a la utilización de la inteligencia artificial y los peligros que puede acarrear no son nuevas. A fines de marzo, un grupo de expertos y responsables de la industria tecnológica, incluido Elon Musk, financiador inicial de Open AI (creador de ChatGPT), y el cofundador de Apple, pidió un freno de seis meses en el desarrollo de la inteligencia artificial.

Algo similar a varias declaraciones aisladas contra esta tecnología y sus impactos en la sociedad. «Estos nuevos sistemas son una herramienta fantástica para la difamación y serán ciertamente utilizados para ello», afirmaba el filósofo Noam Chomsky en una entrevista al público el viernes pasado. «La idea de que podemos aprender algo de este tipo de IA es un error», añade.

Neuronas artificiales écada de editar década

Ahora, es un nuevo ataque desde adentro. Desde la década de 1970, Geoffrey Hinton ha estado investigando redes neuronales artificiales, donde un sistema matemático simula neuronas para, por ejemplo, analizar fotografías y aprender a identificar flores o automóviles sin necesidad de nuestra intervención. Esta base permite, por ejemplo, que un modelo de inteligencia artificial pueda mirar miles de fotografías de animales y definir cuáles son los caballos – porque conoce sus características a partir de los ejemplos que «estudió» antes.

Es también en este campo que el investigador, graduado en psicología cognitiva y Ciencias de la computación, ha hecho las mayores contribuciones. Uno de los más conocidos es de 2012, donde participó en la creación de una red neuronal que identificaba objetos comunes, como perros, coches o flores a partir de miles de imágenes, en un trabajo realizado con dos estudiantes de la Universidad de Toronto, Alex Krishevsky (el responsable principal del trabajo) e Ilya Sutskever.

Hasta hace muy poco, no existía preocupación por el volumen de información que una herramienta como ChatGPT podía comprender. Pero Geoffrey Hinton indica que el punto de inflexión es ahora. «En este momento, estamos viendo cosas como el GPT-4 (actual modelo de lenguaje en el que se basa el ChatGPT) eclipsando a la gente en la cantidad de conocimiento general que tiene y nos eclipsa por amplio margen», dice En declaraciones a la BBC, donde nota también que la capacidad de razonamiento y respuesta son todavía limitadas.

«Dado el ritmo de evolución [de esta tecnología], podemos esperar que esto [capacidad de razonamiento y respuesta] mejore rápidamente. Por lo tanto, tenemos que preocuparnos por eso», afirma al sitio de la televisión británica.

Herramientas écada de editar década editar década de érmino inteligencia artificial ás tecnología más tecnologí

Ya en febrero, Cateljine Muller sostenía que estas herramientas aún no eran positivas para la sociedad. «El mundo aún no puede manejar todas las consecuencias de una herramienta como ChatGPT. En este momento, presenta más riesgos que beneficios», decía al público la fundadora de ALLAI, organización europea por una IA responsable, y que ha asesorado a la Comisión Europea en esta temática.

El riesgo de desinformación, de uso indebido para amplificar estereotipos o mensajes políticos y la pérdida de trabajos son algunos de los riesgos frecuentemente enumerados en las críticas a la inteligencia artificial. «Es difícil ver cómo se puede evitar que los malos actores no usen esto de manera maligna», dijo Geoffrey Hinton.

En sentido contrario, la eficiencia y rapidez en tareas como la traducción o investigación, el aumento de la productividad y la interacción con personas en servicios de atención a clientes pueden traer ventajas tanto económicas como en el tiempo libre de la población.

Jeff Dean, responsable científico de Google, respondió en un comunicado que la compañía sigue «comprometida con un enfoque responsable de la inteligencia artificial».