Anthropic contra Trump

Del pulso entre Anthropic y el Departamento de Guerra de Donald Trump podemos deducir muchas cosas. La primera es que el gobierno de EE UU está usando los modelos de Inteligencia Artificial para vigilar a sus propios ciudadanos y piensa seguir haciéndolo, con ayuda de la Inteligencia Artificial. Importante recordar que ese fue el verdadero escándalo de los papeles de Snowden, no que el Gobierno vigilara a Angela Merkel o usara a sus gigantes digitales para invadir nuestra intimidad. Ese es literalmente el trabajo de los espías. El resto del mundo es barra libre para agencias como la NSA. El delito fue interceptar conversaciones de ciudadanos estadounidenses sin permiso del juez, porque esas sí están protegidas por la cuarta enmienda. Dicho esto, este fin de semana Anthropic ha sido desterrada por su propio gobierno por negarse a participar en un acto anticonstitucional. Y Darío Amodei, director de la empresa, ha sido fabulosamente explícito explicando con un “ejemplo” la clase de actividad en la que se niega a participar.

La ley estadounidense impide que el Gobierno espíe directamente a sus propios ciudadanos, pero, a diferencia de Europa, nada impide que lo hagan las empresas privadas. Y nada impide que el Ejecutivo compre los datos a esas empresas privadas (operadoras, redes sociales, data brokers, etc) para después analizarlos de forma masiva utilizando inteligencia artificial. Esto es exactamente lo que este gobierno ha estado haciendo en su campaña de caza de inmigrantes, a través de la plataforma de Palantir. Amodei ha dicho, educadamente, que es “una dinámica en la que la vigilancia masiva doméstica está adelantándose a la ley”.

El producto estrella de Palantir, la oscura empresa fundada por Peter Thiel y dirigida por Alex Karp, es una plataforma de software para organismos de defensa, inteligencia y seguridad pública llamada Palantir Gotham. Su función es integrar bases de datos de toda clase, formato y origen en un sistema único que permite entender las relaciones entre datos dispares y hacer análisis de patrones, mapas geoespaciales, líneas de tiempo y, sobre todo, búsquedas complejas. Cuando Anthropic firmó su acuerdo para “operacionalizar el uso de Claude dentro de la plataforma de IA de Palantir”, el producto fue rebautizado como “plataforma de inteligencia artificial para la toma de decisiones críticas”. En el último mes, algunas de esas decisiones críticas incluyen el secuestro de Nicolás Maduro, las redadas de ICE y la Operación Furia Épica que ha acabado, entre otros, con la vida de Ali Jameneí, líder supremo de Irán.

Es en este contexto que Anthropic se ha negado a automatizar armas letales autónomas, no por consideraciones morales ni legales sino estrictamente técnicas. Sus argumentos son que los modelos actuales, incluyendo Claude pero también Gemini, Grok y GPT, no son lo suficientemente fiables, controlables ni interpretables para delegar el gatillo de un arma automática y probablemente nunca lo serán. Porque son modelos probabilísticos que pueden ser manipulados, equivocarse de objetivos, malinterpretar señales ambiguas y tienden a “alucinar”. Pueden inventarse objetivos con la facilidad con la que se inventan libros que nunca fueron escritos o batallas que nunca tuvieron lugar. Sin comprender del todo cómo toman decisiones y sin poder garantizar que obedecen órdenes y respetan límites en escenarios adversariales, nos enfrentamos al probable escenario de una escalada sin freno. Por suerte, Anthropic no quiere ser responsable. Lamentablemente, OpenAI sí.