Líderes buscan imponer reglas al desarrollo acelerado de la IA

A la par que los modelos artificiales se hacen más inteligentes, crece la preocupación por los peligros que conllevan. Estados Unidos y la Unión Europea se apresuran en establecer control, pero la iniciativa privada corre con ventaja

La velocidad con que evoluciona la inteligencia artificial (IA) y el creciente interés que despierta en las grandes compañías de desarrollo tecnológico preocupa a los líderes mundiales que ven en este progreso vertiginoso una oportunidad de mejora para las condiciones de vida de las personas, pero también una amenaza latente contra la privacidad de los individuos, la veracidad de la información que se propaga en las redes e incluso la seguridad de las naciones.

Para prevenir estos y otros peligros, el presidente de Estados Unidos, Joe Biden, firmó el 30 de octubre una orden ejecutiva de gran alcance sobre IA, que obliga a las empresas informarle al Gobierno federal sobre los riesgos de que sus sistemas puedan ayudar a países o terroristas a fabricar armas de destrucción masiva, así como compartir datos relevantes que incluyen el momento en que entrenan un nuevo modelo y las protecciones de ciberseguridad de que disponen.

De igual modo, las compañías que adquieran, desarrollen o posean clústeres informáticos a gran escala —imprescindibles para poner a prueba los sistemas de IA más poderosos— deben reportar su actividad. El Departamento de Energía de EE. UU., además, ha de evaluar el modo en que los avances de la IA contribuyen a los ataques biológicos o químicos, o a los ciberataques contra infraestructuras críticas.

La orden también busca disminuir los peligros de los deepfakes —video, imagen o audio falsos generados por la IA para imitar la apariencia y el sonido de una persona— pues según Biden puede usarse para manipular a la sociedad durante las campañas electorales. «Los deepfakes utilizan audio y video generados por IA para difamar reputaciones, difundir noticias falsas y cometer fraude», afirmó el demócrata.

Se trata de la primera orden ejecutiva de la presidencia de Biden centrada exclusivamente en la IA. Anteriormente, el expresidente Donald Trump había emitido otras dos —en 2019 y 2020—, aunque un estudio de la Facultad de Derecho de Stanford descubrió un patrón de cumplimiento inconsistente respecto a las mismas, a la par que un «déficit de capacidad» nacional en IA. Esta iniciativa debe tomarse como un esfuerzo del inquilino de la Casa Blanca para demostrar que Estados Unidos, potencia líder en tecnología de IA de rápido avance, también será líder en su regulación. «Una cosa está clara: para hacer realidad la promesa de la IA y evitar los riesgos, debemos gobernar esta tecnología», dijo Biden.

El talón de Aquiles de esta orden ejecutiva es su limitado alcance. Si bien el presidente cuenta con amplios poderes para regular la manera en que el Gobierno federal emplea la IA y es capaz de imponerle directrices, no sucede lo mismo con el sector privado, donde cada empresa sigue sus propias estrategias de ejecución y desarrollo. Al menos, hasta el momento.

Europa se suma

El viejo continente también avanza en la creación de sus reglas y busca que naciones fuera de Europa aporten y se sumen a las mismas. Por tal motivo, el 1 y 2 de noviembre se llevó a cabo en Reino Unido la AI Safety Summit 2023 —la Cumbre de Seguridad de la IA—, donde 28 países, entre ellos Estados Unidos, miembros de la Unión Europea y China, firmaron una declaración en la que advierten que la IA avanza con tal rapidez e incertidumbre que podría causar «daños graves, incluso catastróficos».

El documento también hace un llamado a la colaboración internacional para definir y explorar los riesgos del desarrollo de modelos de IA más potentes, incluidos grandes modelos de lenguaje similares a los que impulsan chatbots como ChatGPT. «Se trata de un logro histórico que pone de acuerdo a las mayores potencias mundiales en materia de IA sobre la urgencia de comprender los riesgos de la IA, lo que ayudará a garantizar el futuro a largo plazo de nuestros hijos y nietos», declaró Rishi Sunak, primer ministro británico.

La IA ha sorprendido al demostrar su capacidad para realizar tareas que, en opinión de numerosos especialistas, permanecerían inalcanzables durante muchos años. Esto plantea la hipótesis entre algunos investigadores de que la posibilidad de desarrollar sistemas capaces de emular la inteligencia humana puede estar mucho más cerca de lo previsto. Ante este escenario probable Kamala Harris, vicepresidenta de Estados Unidos dijo que «tenemos el deber moral, ético y social de asegurarnos de que la IA se adopte y avance de una manera que proteja al público de posibles daños».

Llega Grok

Es en medio de esta vorágine que Elon Musk, a través de su empresa de Inteligencia Artificial xAI, presenta su modelo de IA, llamado Grok. La cual destaca, ante todo, por su capacidad para acceder en tiempo real a la plataforma X, una característica que le otorga ventaja sobre otros productos generativos de lenguaje. Se trata de la primera innovación que lanza xIA y con ello se posiciona como una fuerte rival de OpenAI, Google y Microsoft.

Actualmente Grok se encuentra en su fase beta inicial, pero se espera que una vez que esté disponible podrán acceder a ella los suscriptores de X Premium+. Musk ya reveló que su intención es lograr mayor vínculo entre este tipo de tecnología con otras áreas de la vida cotidiana, como los vehículos Tesla. Sin embargo, es la capacidad de Grok para acceder a información que se esté generando al momento en la red X su mejor carta de presentación. Una potencialidad que puede dejar muy mal parado a ChatGPT, cuya base de datos pública cuenta con años de retraso.

Un detalle curioso, según Musk, Grok está «diseñado para tener un poco de sentido del humor» y que «ama el sarcasmo». E4

Directrices de generación de IA

• Exigir que las empresas informen al Gobierno federal sobre los riesgos de que sus sistemas puedan ayudar a países o terroristas a fabricar armas de destrucción masiva.
• Buscar disminuir los peligros del material falso generado por IA, principalmente imágenes o declaraciones de políticos que nunca sucedieron.
• Fomentar el desarrollo de la IA en EE. UU., incluida la atracción de talento extranjero a empresas y laboratorios.