Microsoft tomó medidas enérgicas contra el uso del software gratuito de inteligencia artificial de la compañía después de que la herramienta se vinculó con la creación de imágenes sexualmente explícitas de Taylor Swift que inundaron las redes sociales y plantearon el espectro de una demanda por parte de la enfurecida cantante.
El gigante tecnológico impulsó una actualización de su popular herramienta, llamada Designer, un programa de conversión de texto a imagen impulsado por Dall-E 3 de OpenAI, que agrega “barandillas” que impedirán el uso de fotografías no consensuadas, dijo la compañía.
Las fotos falsas, que muestran a Swift desnuda rodeada de jugadores de los Kansas City Chiefs en una referencia a su muy publicitado romance con Travis Kelce, se remontaron a Designer AI de Microsoft antes de que comenzaran a circular en X, Reddit y otros sitios web. El sitio centrado en la tecnología 404 Media informó el lunes..
“Estamos investigando estos informes y estamos tomando las medidas adecuadas para abordarlos”, dijo un portavoz de Microsoft a 404 Media, que fue el primero en informar sobre la actualización.
“Contamos con grandes equipos trabajando en el desarrollo de barreras de seguridad y otros sistemas de seguridad de acuerdo con nuestros principios de IA responsable, incluido el filtrado de contenido, el monitoreo operativo y la detección de abusos para mitigar el uso indebido del sistema y ayudar a crear un entorno más seguro para los usuarios”, el portavoz. agregó, señalando que según el Código de conducta de la compañía, cualquier usuario de Designer que cree deepfakes perderá el acceso al servicio.
Los representantes de Microsoft no respondieron de inmediato a la solicitud de comentarios del Post.
La actualización se produce cuando el director ejecutivo de Microsoft, Satya Nadella, dijo que las empresas de tecnología deben “actuar rápido” para combatir el uso indebido de las herramientas de inteligencia artificial.
Nadella, cuya empresa es un inversor clave en OpenAI, creador de ChatGPT, describió la difusión de imágenes pornográficas falsas del cantante de “Cruel Summer” como “alarmante y terrible”.
“Tenemos que actuar. Y, francamente, todos nosotros en la plataforma tecnológica, independientemente de cuál sea su posición sobre un tema en particular”, dijo Nadella, según una transcripción. antes de una entrevista en NBC Nightly News entrevistaque saldrá al aire el martes.
“No creo que nadie quiera un mundo en línea que no sea completamente seguro tanto para los creadores como para los consumidores de contenido”.
Los deepfakes de Swift fueron vistos más de 45 millones de veces en X antes de ser finalmente eliminados después de aproximadamente 17 horas.
Una fuente cercana a Swift estaba consternada porque “la plataforma de redes sociales incluso les permitió estar al tanto para empezar”, informó el Daily Mail, especialmente considerando que el Centro de ayuda de X describe políticas que prohíben la publicación de “medios sintéticos y manipulados”, así como “no consensuales”. desnudez.”
Durante el fin de semana, la plataforma de redes sociales de Elon Musk tomó la extraordinaria medida de bloquear cualquier búsqueda que involucrara el nombre de Swift para que no arrojara resultados, incluso aquellas que fueran inofensivas.
El ejecutivo de X, Joe Benarroch, describió la medida como una “acción temporal y realizada con mucha precaución, ya que priorizamos la seguridad en este tema”.
La prohibición seguía vigente el lunes.
La controversia podría significar otro dolor de cabeza para Microsoft y otros líderes de la IA que ya enfrentan un creciente escrutinio legal, legislativo y regulatorio sobre la floreciente tecnología.
La secretaria de prensa de la Casa Blanca, Karine Jean-Pierre, describió la tendencia de los deepfakes como “muy alarmante” y dijo que la administración Biden “iba a hacer todo lo posible para abordar este problema”.
El auge de los deepfakes de IA podría surgir como un tema clave a finales de esta semana cuando el director ejecutivo de Meta, Mark Zuckerberg, el director ejecutivo de TikTok, Shou Chew, y otros destacados jefes tecnológicos testifiquen ante un panel del Senado.
A principios de este mes, el representante Joseph Morelle (demócrata por Nueva York) y Tom Kean (republicano por Nueva Jersey) reintrodujeron un proyecto de ley que convertiría el intercambio no consensuado de imágenes pornográficas alteradas digitalmente en un delito federal, con penas imponibles como penas de cárcel, una multa o ambas. .
La “Ley de Prevención de Deepfakes de Imágenes Íntimas” fue remitida al Comité Judicial de la Cámara de Representantes, pero el comité aún tiene que tomar una decisión sobre si aprobar o no el proyecto de ley.
