El clip de IA que convenció y dividió

Cuando apareció un clip de audio que mostraba al director de una escuela local haciendo comentarios despectivos, se volvió viral en línea, provocando amenazas de muerte contra el maestro y causando revuelo en un suburbio en las afueras de la ciudad de Baltimore. Pero pronto se descubrió que era una falsificación manipulada por inteligencia artificial. Entonces, ¿por qué la gente todavía cree que es real?

«Realmente no entiendo por qué tengo que lidiar con estos idiotas aquí todos los días».

Así comenzó lo que pareció una larga diatriba del director de la escuela secundaria de Pikesville, salpicada de frases racistas, antisemitas y ofensivas. Sonaba como si hubiera sido grabado en secreto.

El orador continuó lamentando a los “niños negros desagradecidos” y al pueblo judío de la comunidad.

El clip, publicado por primera vez en enero, se volvió viral en todo el país. Pero en el tranquilo y frondoso suburbio de Pikesville, que tiene grandes comunidades negras y judías, y en la cercana ciudad de Baltimore, Maryland, realmente tocó una fibra sensible. El director Eric Eiswert fue puesto en licencia administrativa remunerada en espera de una investigación.

Alfie Malone, un hombre negro que vive en la cercana Baltimore, vio a otros miembros de su comunidad publicando el clip y asumió que era real.

“En el fondo, piensas que la gente probablemente piensa así de nosotros”, dijo Malone. «Y luego escuchar eso realmente se transmite a través del audio».

Para confirmar lo que escuchó, Malone revisó otras grabaciones reales de Eiswert en las redes sociales y sonaban igual.

Entonces, el cartero y el podcaster a tiempo parcial presionaron el botón «Compartir».

El clip comenzó a ganar fuerza en las redes sociales a medida que más personas lo compartían en línea. Una de las versiones más compartidas iba camino de alcanzar los dos millones de visualizaciones en apenas unas horas. Eso ya es aproximadamente 60 veces la población total de Pikesville.

Pero lo que quienes compartieron el clip no sabían en ese momento era que estaba a punto de caer otra bomba: el clip era una falsificación generada por IA.

Para BBC Radio 4 ¿Por qué me odias? EE. UU.Estaba en Maryland investigando el impacto que tuvo este clip en esa ciudad. Casi parece una fábula sobre los peligros que plantea la IA, especialmente cuando el objetivo son las comunidades locales.

Cuando el clip llegó al escritorio de Kristen Griffith, reportera de educación del Baltimore Banner, pensó que sería una historia relativamente simple sobre un maestro expuesto a comentarios ofensivos.

Pero como es práctica común en el periodismo, Griffith quería darle al director la oportunidad de comentar y contar su versión de los hechos. Entonces se puso en contacto con su representante sindical, quien le dijo que el Sr. Eiswert no sólo condenó los comentarios sino que tampoco los hizo.

«Él inmediatamente dijo: Oh, creemos que esto es falso… Creemos que es IA», le dijo a la BBC. «Nunca antes había escuchado ese ángulo».

Pero cuando publicó esta declaración, sus lectores no quedaron convencidos. Lejos de poner en duda la veracidad del clip, simplemente provocó una reacción violenta de personas que pensaban que la acusación de invención era sólo una excusa o un intento de evadir la responsabilidad.

En ese momento, la policía local comenzó a investigar el caso. El personal de Pikesville High dijo que se sentían inseguros debido a toda la atención y temían que la escuela tuviera dispositivos de grabación.

La reputación del rector Eiswert también se había visto gravemente afectada. Se tomaron mayores medidas de seguridad tanto a su alrededor como alrededor de la escuela. Se convirtió en blanco de odio y amenazas en las redes sociales. Encontré docenas de mensajes abusivos dirigidos a él en las redes sociales.

Luego, en abril, el jefe de policía de Baltimore, Robert McCullough, confirmó que ahora tenían «pruebas concluyentes de que la grabación no era auténtica».

Y creían saber quién había hecho la falsificación.

La policía acusó a Dazhon Darien, de 31 años, director de atletismo de la escuela, de múltiples cargos relacionados con el vídeo falso. Los cargos incluían robo, represalias contra un testigo y acecho.

Según la policía, fue arrestado en el aeropuerto donde planeaba volar a Houston, Texas.

Según la policía, el director Eiswert investigó al señor Darien por un presunto robo de 1.916 dólares (1.460 libras esterlinas) de la escuela. También afirman que ha habido “problemas de desempeño laboral” y que es poco probable que se renueve su contrato.

Su teoría era que al crear la grabación falsa esperaba desacreditar al director antes de que lo despidieran.

Los investigadores dicen que rastrearon un correo electrónico que envió el video original a un servidor conectado al Sr. Darien y alegan que utilizó la red informática de las Escuelas Públicas del Condado de Baltimore para acceder a herramientas de inteligencia artificial. Está previsto que vaya a juicio en diciembre de 2024.

Los representantes legales del Sr. Darién no respondieron a las solicitudes de comentarios.

La superintendente de escuelas del condado de Baltimore, Myriam Rogers, dijo anteriormente que era «un momento muy difícil» para la comunidad escolar, el director y su familia.

Los funcionarios de Pikesville High School y el Sr. Eiswert no respondieron a mi solicitud de más comentarios.

Debido a que el clip era solo de audio, no había señales visuales como movimientos de robots que normalmente revelarían manipulaciones de IA. También mencionaba jerga como “expectativas de nivel de grado” y otros detalles como nombres del personal que sólo las personas cercanas a la escuela conocerían.

Sin embargo, si se escucha atentamente, se nota una clara superposición entre las frases y, aunque la voz es similar a la del actor principal, suena bastante monótona. La inteligencia artificial puede tomar varios minutos de una grabación real (de su actor favorito en una película o del discurso de un candidato presidencial, por ejemplo) y luego crear un clip que haga que parezca que dijeron algo que nunca hicieron.

Pero quizás la razón más importante por la que la gente creyó que el video era real fue porque parecía cierto, me dijo Malone.

Se basó en sus propias experiencias con el racismo como hombre negro que vivía en Baltimore.

Cuando Malone escuchó al director describir a los estudiantes negros como perezosos, inmediatamente le recordó los insultos y la discriminación que había encontrado en la escuela y en el trabajo.

Meses después, los efectos del clip de audio falso todavía se sienten en Pikesville. El señor Eiswert cambió de trabajo y trabaja en otra escuela. Y aunque algunos miembros de la comunidad me han dicho que ahora aceptan que el vídeo es falso, el daño ya está hecho.

“Este es un vecindario judío y decir algo tan incendiario sobre la comunidad fue molesto”, me dijo una mujer llamada Sharon mientras metía el cochecito de su nieto en un automóvil en una casa frente a la escuela secundaria en agosto pasado.

Durante varios minutos, Sharon me habló como si el clip fuera real.

“Creo que cuando la gente dice cosas así, otras personas se unen y eso me pone aún más ansioso”.

Cuando su esposo habló desde el auto y le recordó que el clip era en realidad falso, ella admitió que «más tarde descubrió que era generado por IA». Pero ella dijo que todavía estaba enojada por eso.

Descubrí que personas como Sharon, que creían que el clip era real, aunque fuera por un corto tiempo, permanecían en sus mentes, especialmente cuando el mensaje reflejaba experiencias reales de racismo y discriminación. Me recordó algo que escucho todo el tiempo cuando investigo información errónea y teorías de conspiración: «Bueno, incluso si no es real, eso es lo que creo que piensan».

Todas las principales empresas de redes sociales dicen que cuentan con políticas para marcar, eliminar y limitar la distribución de publicaciones generadas por IA. Sin embargo, esta acción sólo ocurre si se puede demostrar que un clip es falso. A estas alturas es posible que ya haya llegado a millones de personas.

Alfie Malone dijo ese mismo día que habló con un amigo que todavía no tenía idea de que el clip fue generado por IA.

«Honestamente, creo que mucha gente en esta ciudad no sabe realmente que eso no es cierto», dijo.

Dijo que lamentaba que el director Eiswert fuera acusado injustamente de hacer esos comentarios. También teme que el episodio haya socavado experiencias reales de racismo.

Dijo que lo pensaría dos veces antes de volver a compartir un clip como este.

“He sufrido quemaduras por el fuego antes. No volveré a tocar la estufa”.