Piden ejecutivos de tecnología pausar el desarrollo de la IA

Varios ejecutivos de tecnología y los principales investigadores de inteligencia artificial (IA), incluidos el director ejecutivo de Tesla Elon Musk, y el pionero de la IA,Yoshua Bengio, han solicitado una pausa en el desarrollo vertiginoso de nuevas y poderosas herramientas relacionadas con la también llamada inteligencia computacional.
En una carta abierta señaron que una moratoria de seis meses o más le daría tiempo a la industria para establecer estándares de seguridad para el diseño de IA y evitar daños potenciales de dichas tecnologías.
El propio Bengio, director del Instituto de Montreal para Algoritmos de Aprendizaje de la Universidad de Montreal, indicó que “hemos llegado al punto en que estos sistemas son lo suficientemente inteligentes como para que puedan usarse de formas peligrosas para la sociedad” y aseguró que “todavía no entendemos”.
En la misiva titulada “Pausa a los gigantes experimentos de AI: carta abierta” coordinada por el “Future of Life Institute”, organización sin fines de lucro, que incluye a Musk como asesor externo y que se hizo externa este miércoles, también firmaron el cofundador de Apple Steve Wozniak; el CEO de Estabilidad AI, Emad Mostaque; y los cofundadores del Center for Humane Technology, Tristan Harris y Aza Raskin, quienes han criticado las redes sociales y la tecología de la AI.
La carta no pide que se detenga todo el desarrollo de IA, pero insta a las empresas a detener temporalmente los sistemas de capacitación más potentes que GPT-4, la tecnología lanzada este mes por la startup OpenAI respaldada por Microsoft Corp. Eso incluye la próxima generación de la tecnología de OpenAI, GPT-5.
Cabe señalar que los funcionarios de OpenAI dicen que no han comenzado a entrenar GPT-5. En una entrevista, el director ejecutivo de OpenAI, Sam Altman dijo que la empresa ha dado prioridad durante mucho tiempo a la seguridad en el desarrollo y pasó más de seis meses realizando pruebas de seguridad en GPT-4 antes de su lanzamiento.
Los llamados a una pausa chocan con el fuerte interés de las empresas de tecnología y las nuevas empresas de duplicar la llamada IA generativa, una tecnología capaz de generar contenido original a partir de indicaciones humanas.
El rumor en torno a la IA generativa explotó el otoño pasado después de que OpenAI presentó un “chatbot” (robot automatizado) con su capacidad para realizar funciones como proporcionar respuestas largas y producir código de computadora con sofisticación similar a la humana.
Como se sabe, Microsoft ha adoptado la tecnología para su motor de búsqueda Bing y otras herramientas, en tanto que Google, de Alphabet, ha implementado un sistema rival, y empresas como Adobe, Zoom Video Communications y Salesforce también han introducido herramientas avanzadas de IA.