Un grupo de empleados actuales y antiguos de las principales empresas de IA han advertido de que la IA podría extinguir a la humanidad. <br />En una carta abierta, los firmantes, entre los que se incluye personal de OpenAI, Anthropic y DeepMind de Google, abogan por salvaguardas adicionales. <br />"También somos conscientes de los graves riesgos que plantean estas tecnologías. Estos riesgos van desde el afianzamiento de las desigualdades existentes, pasando por la manipulación y la desinformación, hasta la pérdida de control de los sistemas autónomos de IA que podría provocar la extinción humana", dice la carta. <br />La carta sostiene que las empresas que desarrollan tecnologías de IA, incluida la AGI, tienen "fuertes incentivos financieros para evitar una supervisión eficaz". <br />Su objetivo es debatir abiertamente los riesgos y buscar aportaciones públicas y políticas sobre los desarrollos de IA. <br />La carta llega tras las recientes polémicas en OpenAI, incluido un escándalo sobre acuerdos de no divulgación. <br />También llega tras la disolución de un equipo de OpenAI que investigaba los riesgos de la IA. <br />A pesar de los retos, OpenAI insiste en que da prioridad a la seguridad de la IA y apoya una mayor regulación.
