Tecnología

Alerta IA: Los peligros de la tecnología

“Las computadoras podrían ser más inteligentes que los humanos”.

Equipo PipolNews

5 de may. de 2023 5 min de lectura

Geoffrey Hinton, pionero de la inteligencia artificial de Google, renunció a la compañía para advertir de los peligros de la tecnología.

Hinton es considerado el “padrino de la inteligencia artificial”, quien confirmó el pasado lunes que dejó su puesto de trabajo para alertar sobre los peligros inminentes, que el mismo ayudó a desarrollar.

El trabajo realizad por “el padrino” sobre redes neuronales dio forma a los sistemas de IA que impulsan muchos de los productores actuales. Se desempeñó durante una década en las labores de desarrollo de inteligencia artificial del gigante tecnológico, Google, pero en la actualidad le preocupa la tecnología y el papel que desempeñó en su desarrollo.

“Me consuelo con la excusa habitual: si no lo hubiera hecho yo, habría sido alguien más”, declaró Hinton al diario The New York Times, que fue el primer medio en dar a conocer su decisión.

En un posteo en Twitter, el pasado lunes, Hinton dijo que renunció a Google para poder hablar libremente sobre los peligros de la IA (Inteligencia Artificial).

“Me fui para poder hablar sobre los peligros de la IA sin tener en cuenta cómo esto afecta a Google, la cual ha actuado de forma responsable”, expresa el científico.

“Hinton ha hecho avances fundacionales en IA. Agradezco por la década de contribuciones en Google. Seguimos comprometidos con un enfoque responsable de la IA. Estamos aprendiendo continuamente para comprender los riesgos emergentes al tiempo que innovamos con audacia”, dijo Jeff Dean, Jefe Científico de Google.

Hinton se ha retirado en un momento clave, donde un número creciente de legisladores, grupos de defensa y conocedores de la tecnología han encendido las alarmas sobre el potencial de una nueva generación de chatbots potenciados por IA para difundir información errónea y desplazar empleos.

El ChatGPT ha contribuido a renovar una carrera armamentística para desarrollar e implantar herramientas de IA similares en sus productos. OpenAi, Microsoft y Google están encabezando la lista, aun así, IBM, Amazon, Baidu y Tencent están trabajando en tecnologías similares.

En el mes de marzo pasado, figuras destacadas de la tecnología actual elevaron un pedido a los laboratorios de inteligencia artificial (https://cnnespanol.cnn.com/video/musk-inteligencia-artificial-pausa-avances-humanidad-cafe-cnn/) para que detuvieran el entrenamiento de los sistemas de IA más potentes durante un periodo de 6 meses, tomando como referencia:” profundos riesgos para la sociedad y la humanidad”.

El pedido fue publicado por el Future of Life Institute, una organización sin fines de lucro respaldada por Elon Musk, la misma fue presentada tan solo dos semanas de que OpenAI anunciara GPT-4, una versión más potente de la tecnología que impulsa ChatGPT.

GPT-4 se utilizó para redactar demandas, aprobar exámenes estandarizados y crear un sitio web funcional a partir de un boceto dibujado a mano.

Hinton se ha sumado a las preocupaciones sobre el potencial de la IA para eliminar puestos de trabajo y crear un mundo en el que muchos de nosotros, no sabremos que es verdad y que no. El avance es peligrosamente rápido, y al mismo tiempo asombroso.

“La idea de que estas cosas pudieran llegar a ser más inteligentes que las personas, unos pocos lo creían. Pero la mayoría pensaba que no era así. Y yo también. Pensaba que faltaban de 30 a 50 años o incluso más. Obviamente, ya no pienso eso”, asevera el científico, quien anteriormente y antes de separarse de Google, había hablado públicamente sobre el potencial de la IA para hacer daño como bien.

“creo que el rápido progreso de la IA va a transformar la sociedad de formas que no comprendemos del todo y no todos los efectos van a ser buenos, Esta perspectiva me parece mucho más inmediata y mucho más aterradora que la de los robots tomen el control, que creo que está muy lejos”, dijo Hinton en un discurso en 2021 en el Instituto de Tecnología de Bombay, donde señaló además que la IA impulsará la atención sanitaria, pero creará al mismo tiempo oportunidades para las armas autónomas letales.

Por otra parte, cabe destacar que Hinton no es el primer empleado de Google en sonar las alarmas, en julio del año pasado la empresa despidió a un ingeniero que afirmaba que un sistema de IA aún no dado a conocer se había vuelto consciente. La compañía alegó que el mismo, había infringido las políticas de empleo y seguridad de datos, muchos miembros de la comunidad de la IA, rechazaron la afirmación del ingeniero.

Las pruebas están a la vista, el futuro es hoy