Sam Altman, CEO de OpenAI, advirtió en la ONU sobre los riesgos de perder el control sobre la inteligencia artificial avanzada.
Sam Altman, director ejecutivo de OpenAI, expresó una seria advertencia ante el Consejo de Seguridad de Naciones Unidas sobre el futuro de la inteligencia artificial. Durante su intervención, mencionó la posibilidad de que la humanidad enfrente tecnologías cuyas decisiones no pueda comprender ni controlar si el desarrollo de estas avanza sin las garantías adecuadas.
Altman participó el 23 de septiembre en una sesión dedicada a la inteligencia artificial y la seguridad internacional. Allí, destacó que los rápidos progresos en los modelos de IA han hecho visibles tanto sus potencialidades como sus peligros. “Tenemos una elección frente a nosotros”, afirmó, refiriéndose a un futuro que podría estar marcado por descubrimientos o por desorden social.
La necesidad de establecer límites claros
El CEO de OpenAI subrayó que la IA tiene el potencial de transformar sectores como la medicina y la educación, pero también advirtió que sistemas avanzados requieren límites claros. Expresó su preocupación por el desarrollo de modelos que participen en su propia evolución, lo que podría acelerar su avance de manera descontrolada.
“Podríamos perder el control del futuro ante la IA”, alertó Altman, enfatizando la necesidad de mantener siempre a los seres humanos en el centro de las decisiones.
Altman sugirió la implementación de estándares internacionales para medir capacidades y riesgos, así como protocolos rápidos para comunicar incidentes graves. Destacó que las decisiones que afectan a millones no deben quedar solo en manos de empresas privadas.
Con información de BibliaTodo Noticias.
