Un consultor político enfrenta una multa de 6 millones de dólares y más de dos docenas de cargos penales tras organizar llamadas automatizadas con una voz generada por inteligencia artificial que imitaba al presidente Joe Biden antes de las primarias presidenciales de Nueva Hampshire.
La Comisión Federal de Comunicaciones (FCC) anunció el jueves que esta multa, impuesta a Steven Kramer, es la primera relacionada con tecnología de IA generativa. Además, la empresa Lingo Telecom, encargada de transmitir las llamadas, enfrenta una multa de 2 millones de dólares. Sin embargo, ambas partes aún pueden negociar un acuerdo, según la FCC.
Kramer admitió haber enviado un mensaje a miles de votantes dos días antes de las primarias del 23 de enero, utilizando una voz generada por IA similar a la de Biden. El mensaje incluía la frase característica del presidente, “qué sarta de tonterías”, e insinuaba falsamente que votar en las primarias impediría emitir el voto en noviembre.
El consultor enfrenta 13 cargos graves por violar una ley de Nueva Hampshire que prohíbe disuadir a alguien de votar con información engañosa, y 13 cargos menores por hacerse pasar falsamente por un candidato. Los cargos fueron presentados en cuatro condados y serán procesados por la fiscalía general del estado.
El fiscal general John Formella subrayó el compromiso de Nueva Hampshire de mantener elecciones libres de interferencias ilegales y destacó la cooperación con socios federales para proteger a los votantes de llamadas automatizadas dañinas y la supresión de votos.
Por su parte, Lingo Telecom expresó su desacuerdo con la medida de la FCC, calificándola de intento de imponer nuevas normas retroactivamente. La empresa afirmó haber cooperado plenamente con las autoridades para identificar a los responsables de la campaña de llamadas y aseguró que sus acciones cumplieron con las regulaciones federales y normas de la industria.
Las llamadas, que aparentaban provenir del teléfono personal de Kathy Sullivan, expresidenta del Partido Demócrata del estado, buscaban desinformar a los votantes. Sullivan expresó su esperanza de que Kramer entienda el alto costo de intentar manipular unas elecciones y que las acciones rápidas de las autoridades disuadan a otros de cometer actos similares.
Kramer, propietario de una empresa especializada en captación de votos, no respondió a las solicitudes de comentarios. En febrero, afirmó que su intención no era influir en el resultado de las elecciones, sino advertir sobre los peligros de la inteligencia artificial. Pagó 150 dólares a un mago de Nueva Orleans para crear la grabación y justificó sus acciones como un intento de mejorar la democracia.
Los cargos por supresión de votantes conllevan penas de hasta 7 años de cárcel, mientras que hacerse pasar por un candidato puede castigarse con hasta un año de prisión. Kramer tiene programada una comparecencia en el tribunal el 5 de junio y ha declarado estar listo para enfrentar las consecuencias.
Desde las llamadas en Nueva Hampshire, la FCC ha intensificado sus esfuerzos para combatir el uso indebido de la IA en comunicaciones políticas. En febrero, prohibió el uso de herramientas de clonación de voz mediante IA en llamadas automatizadas y propuso nuevas normas para que los anuncios políticos revelen el uso de contenidos generados por IA.
La presidenta de la FCC, Jessica Rosenworcel, reafirmó el compromiso de los reguladores para ayudar a los estados a perseguir a los responsables de estas prácticas engañosas. Calificó de “desconcertantes” las llamadas de Nueva Hampshire y advirtió sobre el riesgo de que cualquiera pueda ser engañado por voces manipuladas mediante tecnología de IA.
Fuente: Los Ángeles Times