Elon Musk y otros líderes tecnológicos piden una pausa en la «peligrosa carrera» de la Inteligencia Artificial

En una carta abierta firmada por Musk y el cofundador de Apple, Steve Wozniak, los líderes tecnológicos instaron a una pausa de seis meses en el desarrollo de una IA tan avanzada, diciendo que representa un riesgo para la sociedad.

Elon Musk y docenas de otros líderes tecnológicos han pedido a los laboratorios de IA que detengan el desarrollo de sistemas que puedan competir con la inteligencia a nivel humano.

En la carta abierta del Future of Life Institute, firmada por Musk, Steve Wozniak y el candidato presidencial de 2020 Andrew Yang, se instó a los laboratorios de IA a dejar de entrenar modelos más potentes que GPT-4, la última versión del software de modelo de lenguaje grande desarrollado por la startup estadounidense OpenAI.

“Los sistemas de IA contemporáneos ahora se están volviendo competitivos para los humanos en tareas generales, y debemos preguntarnos: ¿Deberíamos dejar que las máquinas inunden nuestros canales de información con propaganda y falsedad?” dice la carta.

“¿Deberíamos automatizar todos los trabajos, incluidos los de cumplimiento? ¿Deberíamos desarrollar mentes no humanas que eventualmente podrían superarnos en número, ser más inteligentes, obsoletas y reemplazarnos? ¿Deberíamos arriesgarnos a perder el control de nuestra civilización?» inquietantes preguntas formuladas en el texto.

El Future of Life Institute es una organización sin fines de lucro con sede en Cambridge, Massachusetts, que lucha por el desarrollo responsable y ético de la inteligencia artificial. Sus fundadores incluyen al cosmólogo del MIT Max Tegmark y al cofundador de Skype Jaan Tallinn.

La organización ha conseguido previamente que Musk y el laboratorio de IA DeepMind, propiedad de Google, prometan nunca desarrollar sistemas letales de armas autónomas. El instituto dijo que estaba pidiendo a todos los laboratorios de IA que “detuvieran inmediatamente durante al menos 6 meses el entrenamiento de sistemas de IA más potentes que GPT-4”.

Chat GPT bajo la lupa

Se cree que GPT-4, que se lanzó a principios de este mes, es mucho más avanzado que su predecesor GPT-3. “Si tal pausa no se puede promulgar rápidamente, los gobiernos deberían intervenir e instituir una moratoria”, agregó.

ChatGPT, el chatbot viral de IA, ha sorprendido a los investigadores con su capacidad para producir respuestas similares a las humanas a las indicaciones de los usuarios. En enero, ChatGPT había acumulado 100 millones de usuarios activos mensuales solo dos meses después de su lanzamiento, lo que la convirtió en la aplicación para consumidores de más rápido crecimiento en la historia.

La tecnología está entrenada en grandes cantidades de datos de Internet y se ha utilizado para crear de todo, desde poesía al estilo de William Shakespeare hasta redactar opiniones legales sobre casos judiciales.

Pero los especialistas en ética de la IA también han expresado su preocupación por los posibles abusos de la tecnología, como el plagio y la desinformación.

En la carta del Future of Life Institute, los líderes tecnológicos y académicos dijeron que los sistemas de inteligencia artificial con inteligencias humanas y competitivas plantean “riesgos profundos para la sociedad y la humanidad”.

“La investigación y el desarrollo de IA deben reenfocarse en hacer que los sistemas potentes y de última generación de hoy en día sean más precisos, seguros, interpretables, transparentes, robustos, alineados, confiables y leales”, dijeron.

OpenAI, que cuenta con el respaldo de Microsoft, recibió una inversión de $ 10 mil millones del gigante tecnológico de Redmond, Washington. Microsoft también ha integrado la tecnología de procesamiento de lenguaje natural GPT de la compañía en su motor de búsqueda Bing para hacerlo más conversacional.

Posteriormente, Google anunció su propio producto de IA conversacional de la competencia para los consumidores, llamado Google Bard.

Musk ha dicho anteriormente que cree que la IA representa uno de los “mayores riesgos” para la civilización. Ha criticado a la organización varias veces recientemente, diciendo que cree que se está desviando de su propósito original.

Los reguladores también están compitiendo para controlar las herramientas de inteligencia artificial a medida que la tecnología avanza a un ritmo rápido. Recientemente, el gobierno del Reino Unido publicó un libro blanco sobre IA , delegando en diferentes reguladores la supervisión del uso de herramientas de IA en sus respectivos sectores mediante la aplicación de las leyes existentes.