¿Olvidaste la contraseña?
Home

El CEO de la compañía de inteligencia artificial que fabrica ChatGPT le dijo al Congreso de los Estados Unidos que la intervención del gobierno será fundamental para mitigar los riesgos de los sistemas de IA cada vez más poderosos.

“A medida que avanza esta tecnología, entendemos que las personas están ansiosas acerca de cómo podría cambiar la forma en que vivimos. Nosotros también”, dijo el CEO de OpenAI, Sam Altman, en una audiencia en el Senado.

Altman propuso la formación de una agencia estadounidense o global que otorgaría licencias a los sistemas de inteligencia artificial más poderosos y tendría la autoridad para “retirar esa licencia y garantizar el cumplimiento de los estándares de seguridad”.

Su puesta en marcha con sede en San Francisco se disparó a la atención del público después de que lanzó ChatGPT a fines del año pasado. La herramienta gratuita de chatbot responde preguntas con respuestas convincentemente similares a las de los humanos.

Lo que comenzó como un pánico entre los educadores sobre el uso de ChatGPT para hacer trampa en las tareas asignadas se ha expandido a preocupaciones más amplias sobre la capacidad de la última generación de herramientas de «IA generativa» para engañar a las personas, difundir falsedades, violar las protecciones de derechos de autor y cambiar algunos trabajos .

Y aunque no hay señales inmediatas de que el Congreso elabore nuevas reglas radicales de IA, como lo están haciendo los legisladores europeos , las preocupaciones sociales llevaron a Altman y a otros directores ejecutivos de tecnología a la Casa Blanca a principios de este mes y han llevado a las agencias estadounidenses a prometer tomar medidas enérgicas contra los productos dañinos de IA . que violan los derechos civiles existentes y las leyes de protección al consumidor.

El senador Richard Blumenthal, el demócrata de Connecticut que preside el subcomité de privacidad, tecnología y leyes del Comité Judicial del Senado, abrió la audiencia con un discurso grabado que sonaba como el del senador, pero en realidad era un clon de voz entrenado en los discursos de Blumenthal y recitando ChatGPT. -Comentarios de apertura escritos.

Consenso sobre los peligros

Esta audiencia fue menos combativa que muchos de los otros intercambios de alto perfil entre legisladores y ejecutivos de tecnología, en gran parte porque los testigos reconocieron los peligros del crecimiento sin restricciones y el uso de una herramienta como la IA conversacional avanzada, como el chatbot de OpenAI, ChatGPT. Por su parte, los senadores no hicieron algunas de las preguntas más espinosas que plantearon los expertos, incluido por qué OpenAI decidió lanzar su IA al público antes de evaluar completamente su seguridad, y cómo OpenAI creó su versión actual de GPT-4 en particular.

El tono general del interrogatorio de los senadores fue cortés, en contraste con audiencias pasadas en el Congreso en las que los ejecutivos de tecnología y redes sociales enfrentaron duros interrogatorios sobre las fallas de la industria para administrar la privacidad de los datos o contrarrestar la información errónea dañina. En parte, eso se debió a que tanto los demócratas como los republicanos dijeron que estaban interesados ​​en buscar la experiencia de Altman para evitar problemas que aún no han ocurrido.

Blumenthal dijo que se debería exigir a las empresas de IA que prueben sus sistemas y divulguen los riesgos conocidos antes de lanzarlos, y expresó una preocupación particular sobre cómo los futuros sistemas de IA podrían desestabilizar el mercado laboral. Altman estuvo en gran parte de acuerdo, aunque tenía una visión más optimista sobre el futuro del trabajo.