Expertos temen que modelos de IA más potentes que GPT-4 puedan tener efectos catastróficos
El empresario Elon Musk y un grupo de expertos en inteligencia artificial y ejecutivos del sector solicitan una pausa de seis meses en el entrenamiento de sistemas más potentes que el recién lanzado modelo GPT-4 de OpenAi, según afirman en una carta abierta, en la que señalan riesgos potenciales para la humanidad.
La carta fue publicada por la organización sin fines de lucro Future of Life Institute y firmada por más de mil personas, entre ellas Musk, el director ejecutivo de Stability AI, Emad Mostaque, entre otros.
En ella se detallan los riesgos potenciales para la sociedad y la civilización que presentan los sistemas de AI competitivos con humanos en forma de trastornos económicos y políticos.
Esta pausa, en concreto, se utilizaría para desarrollar una serie de protocolos de seguridad compartidos que serían supervisados por “expertos externos independientes”.
Desde su lanzamiento en el 2022, ChatGPT de OpenAI, respaldada por Microsoft, lleva a sus competidores a acelerar el desarrollo de grandes modelos lingüísticos similares y a las empresas a integrar modelos generativos de IA en sus productos.
