Yahoo Finanzas Clonan voces de Emma Watson y Rick Sánchez con una IA para enviar mensajes racistas y transfóbicos
Como decía el tío Ben, un gran poder conlleva una gran responsabilidad, pero a veces ese poder es usado por gente malintencionada o derechamente malvada. Uno de esos poderes son los que nos están entregando las diferentes Inteligencias Artificiales existentes, siendo una de ellas el software de voz ElevenLabs, desarrollado para “creadores y editores que buscan las mejores herramientas para contar historias” y que permite tomar una voz real para que esta lea textos, como si fueran relatados por humanos.
IA creada por ex empleados de Google y Palantir, quienes anunciaron este lunes que han encontrado una gran cantidad “de casos de uso indebido de clonación de voz" durante su fase beta lanzada recientemente. Y aunque no mencionaron ningún ejemplo, el sitio Motherboard reportó que estos casos podrían ser los que encontró en 4chan, donde varios usuarios han usado el software para generar voces similares a las de varios famosos y publicar comentarios tóxicos, entre ellos mensajes racistas.
Entre los mensajes falsos con voces de famosos se encuentran una que es similar a la de la actriz Emma Watson, la cual lee una sección del libro Mi Lucha de Hitler, al igual que un mensaje con la voz de Rick Sánchez de Rick & Morty que dice: “Voy a vencer a mi esposa Morty. Voy a golpear a mi p$ta esposa Morty. Voy a matarla a golpes, Morty”, aludiendo a las acusaciones de violencia doméstica que enfrenta Justin Roiland, quien le da su voz al personaje.
Según indican en el mismo medio, ElevenLabs no quiso entregar ningún comentario al respecto, siendo la única declaración la que entregaron en Twitter, donde aseguran que “si bien podemos rastrear cualquier audio generado hasta el usuario, nos gustaría abordar esto implementando medidas de seguridad adicionales”.
Editorial: Gaming / Facebook / Twitter / Cobertura / Instagram / Discord
