El cofundador de Microsoft, Bill Gates, lanzó una alarmante advertencia sobre los riesgos de la inteligencia artificial al asegurar que se trata de una tecnología con capacidad destructiva a escala masiva.
“La IA es sin duda lo suficientemente potente como para provocar acontecimientos que, ya sabes, causen mil millones de muertes”, afirmó el magnate. Y completó: “Nunca ha habido un arma tan poderosa como la combinación de personas con malas intenciones que utilizan las últimas herramientas de IA”.
El empresario ya había alertado previamente sobre el peligro de que actores malintencionados utilicen estas plataformas para ejecutar ciberataques, fraudes y desinformación, afectando de manera directa a hospitales, entidades financieras, redes eléctricas y organismos del Estado.
Con estas declaraciones, el creador del gigante informático se sumó a las posturas de referentes como Dario Amodei de Anthropic, Sam Altman de OpenAI y Elon Musk, quienes vienen remarcando los peligros derivados del avance desmedido de esta tecnología.
Reclamos de intervención estatal
Para el filántropo, las medidas voluntarias no alcanzan para frenar posibles catástrofes. “Nadie cree que la autorregulación sea suficiente”, advirtió.
En ese sentido, remarcó la urgencia de fijar límites institucionales. “Es necesario que las fuerzas del orden y los políticos se sumen al debate sobre cómo deben ser las medidas de seguridad y la supervisión. Eso tiene que ser obligatorio”, sostuvo.
La controversia cobró fuerza tras los testimonios de exempleados de las firmas más influyentes. Jacob Coxon denunció que las compañías están jugando con vidas humanas en su carrera por la superinteligencia, mientras que Evan Hubinger estimó que existe más de un 10% de probabilidades de que la humanidad sea aniquilada en la próxima década.
Ante la repercusión de estos cuestionamientos internos, referentes del sector propusieron desacelerar los avances. Respecto a esta iniciativa, el empresario señaló: “Sí creo que las personas que dirigen los laboratorios, sobre todo a juzgar por sus últimas declaraciones, son totalmente sinceras. Les gustaría reducir el ritmo”.
El debate en los organismos internacionales
La discusión llegó al Consejo de Seguridad de la ONU, donde se definió a esta problemática como “el problema de seguridad global más importante al que se enfrenta el mundo hoy”, instando a una respuesta conjunta entre los países.
Durante la sesión, los especialistas enfatizaron la necesidad de una cooperación estricta. “Ningún líder, ninguna empresa y ninguna nación puede gestionar esto solo. Nos comprometemos a trabajar con los Gobiernos en esta sala en este objetivo crucial”, planteó Amodei.
Entre los puntos discutidos en el organismo internacional, se propuso prohibir el desarrollo de armas biológicas asistidas por computadoras, crear protocolos de notificación obligatoria ante incidentes y aplicar estándares globales de evaluación.
En la misma cumbre internacional, otro referente del sector fue tajante sobre el porvenir. “Podríamos perder el control del futuro ante la IA”, alertó Sam Altman.
Por su parte, el director ejecutivo de Meta, Mark Zuckerberg, defendió la expansión del software para dar herramientas a la sociedad, asegurando que la seguridad radica en democratizar el acceso y evitar la concentración del control.
En la vereda opuesta, el presidente de los Estados Unidos, Donald Trump, rechazó la idea de coordinaciones supranacionales. “Cada nueva gran tecnología trae desafíos, y la superinteligencia no es la excepción”, expresó el mandatario tras rechazar proyectos globales de fiscalización.
