Inteligencia Artificial, riesgosa como una pandemia o una guerra nuclear

Expertos del ramo alertan sobre la vertiginosa evolución tecnológica que amenaza con desplazar a la humanidad. Otros, como Arvind Narayanan, aseguran que los escenarios catastróficos no son realistas

«Mitigar el riesgo de extinción (de la humanidad) a manos de la IA debería ser una prioridad mundial, junto con otros peligros a escala social, como las pandemias y la guerra nuclear», se lee en una declaración publicada, en mayo de este año, en la página de internet del Centro para la Seguridad de la IA, con el consentimiento de destacados ejecutivos al mando de las principales compañías líderes en el ámbito de la Inteligencia Artificial (IA), entre las que figuran DeepMind de Alphabet Inc., OpenAI y Anthropic. Sus voces se suman a la de otros líderes que llaman la atención sobre los perjuicios de envergadura que puede ocasionar la vertiginosa evolución tecnológica.

Anteriormente, en marzo, más de mil figuras sobresalientes del ámbito industrial, incluyendo a Elon Musk, director ejecutivo de X Corp.; Stuart Russell, profesor de informática en la Universidad de California, Berkeley; y Steve Wozniak, cofundador de Apple Inc., abogaron por una pausa de, al menos, medio año en la capacitación de modelos de IA poderosos, resaltando asimismo los problemas que dicha tecnología podría desencadenar en la sociedad.

El tema alcanzó su nota más álgida con la renuncia de Geoffrey Hinton, informático británico —conocido como el padrino de la IA— a seguir desarrollando sistemas de inteligencia artificial. Según Hinton, las capacidades de aprendizaje de las computadoras están evolucionando a una velocidad vertiginosa que muy pocos expertos en el tema esperaban.

«Siempre pensé que la IA o el aprendizaje profundo intentaban imitar el cerebro, aunque no podían igualarlo: el objetivo era ir mejorando para que las máquinas se parecieran más y más a nosotros. He cambiado de postura en los últimos meses. Creo que podemos desarrollar algo que es mucho más eficiente que el cerebro porque es digital», advierte Hinton.

¿Educar la IA?

La Unión Europea (UE) y los Estados Unidos revelaron el 31 de mayo un esbozo conjunto de un «código de ética» destinado a regir el universo de la Inteligencia Artificial (IA), el cual se espera que sea asumido de forma voluntaria por las entidades operantes en este ámbito.

Desde figuras políticas hasta los artífices tecnológicos, una convergencia global está emergiendo en torno a la necesidad imperante de regular una tecnología dotada de efectos revolucionarios, pero también de amenazas significativas.

En el trasfondo de un encuentro de alto nivel en Suecia, Antony Blinken, secretario de Estado de EE. UU., subrayó la «urgencia» que los países occidentales atribuyen a la necesidad de tomar medidas ante la irrupción de esta tecnología, que incluye herramientas como el asistente conversacional ChatGPT.

Amenazas en ciernes

El vertiginoso avance de la IA plantea una serie de riesgos inminentes para la humanidad que incluyen:

• Manipulación de información: La IA ya ha sido utilizada en múltiples ocasiones para crear contenido engañoso, como videos deepfake y noticias falsas. Esto podría tener un impacto profundo en la confianza pública y socavar la democracia al difundir información errónea de manera masiva.
• Desplazamiento laboral: La automatización impulsada por la IA facilita la pérdida de empleos en numerosos sectores. A medida que las máquinas asumen tareas realizadas por humanos, se profundiza el desequilibrio económico y social, con la posibilidad de aumentar el desempleo.
• Sesgos y discriminación: Los sistemas de IA aprenden de datos históricos, lo que significa que pueden heredar sesgos y prejuicios presentes en esos datos, con el riesgo de tomar decisiones discriminatorias en áreas como la contratación, la justicia penal y la asistencia médica.
• Armas autónomas: El desarrollo de sistemas de armas autónomas, también conocidos como «robots asesinos», plantea un riesgo significativo para la seguridad global. Estas armas estarían presentes en conflictos bélicos sin la necesidad de intervención humana directa, lo que podría aumentar la letalidad y la velocidad de las operaciones militares.
• Privacidad y vigilancia: El aumento en la capacidad de recopilación y análisis de datos por parte de la IA podría amenazar la privacidad individual. Los sistemas de vigilancia basados en IA podrían ser utilizados para monitorear y rastrear a las personas de manera invasiva.
• Desigualdad digital: Si el acceso a la IA y la tecnología relacionada no se distribuye equitativamente, la brecha digital que ya existe se haría aún más amplia entre aquellos que tienen acceso a estas herramientas y quienes no, lo cual exacerbaría las divisiones económicas y sociales existentes.

Miedo prematuro

A pesar de las llamadas de alarma, algunos líderes del campo tecnológico consideran precipitadas las predicciones de un mundo controlado por máquinas. Para Bill Gates, fundador de Microsoft, el verdadero valor de la IA radica en su capacidad de liberar a la humanidad de las tareas mecánicas que consumen su tiempo. Y para ello pone como ejemplo la incidencia de la tecnología en la docencia. «La IA ayudará con las matemáticas: ayudará con la capacidad de corregir conceptos mentales equivocados, tendrá la capacidad de brindarte comentarios muy rápidos de una manera aún más profunda que los sistemas actuales, pero no diría que ayudará de inmediato con la parte motivacional. Todavía no tenemos un tutor personal».

Por su parte, Arvind Narayanan, informático de la Universidad de Princeton, asegura que los escenarios catastróficos propios de la ciencia ficción no son realistas y que el problema es que se ha desviado la atención de los daños a corto plazo de esta clase de sistemas. «La IA actual no es lo suficientemente capaz como para que estos riesgos se materialicen», afirma. E4