martes, 16 abril 2024

Microsoft combate el abuso de la IA en la generación de imágenes explícitas: El impacto del caso Taylor Swift

El 14 de febrero de 2024, Microsoft ha anunciado que había tomado medidas para bloquear la creación de imágenes explícitas de celebridades utilizando su inteligencia artificial. Esta decisión se produjo después de que se filtraran en la red imágenes deepfake explícitas de la cantante Taylor Swift. Estas fueron creadas con Microsoft Designer y que posteriormente se volvieron virales.

La gravedad del problema

Actualmente estamos presenciando una rápida expansión del abuso de estos nuevos herramientas de inteligencia artificial por parte de actores malintencionados. Incluso a través de deepfakes basados en video, audio e imágenes generados por la inteligencia artificial. Esta tendencia plantea nuevas amenazas a las elecciones, a fraudes financieros, al acoso a través de la pornografía no consensuada y a la próxima generación de ciberacoso.

La respuesta de Microsoft

En respuesta a este incidente, Microsoft ha tomado medidas para bloquear el uso indebido de su herramienta de creación de imágenes con la IA. Microsoft Designer que a través de una falla estaba siendo explotada para crear contenidos no permitidos por las reglas de uso del servicio.

“Estamos investigando estos informes y estamos tomando las medidas apropiadas para abordarlos. Nuestro Código de conducta prohíbe el uso de nuestras herramientas para la creación de contenidos íntimos para adultos o no consensuados y cualquier intento repetido de producir contenidos contrarios a nuestras políticas podría resultar en la pérdida del acceso al servicio”, dijo la compañía en un comunicado.

Microsoft también está trabajando en el desarrollo de guardias y otros sistemas de seguridad en línea con sus principios de inteligencia artificial. La Inteligencia Artificial abre un sinfín de posibilidades para nuevas tecnologías y multitud de escenarios. Sin embargo, también hemos visto como se ha utilizado para crear ataques informáticos más realistas y más difíciles de detectar incluso por los mayores expertos. Ahora Microsoft y el resto de empresas deben acotar el potencial de las IAs por su posible uso malintencionado.

José Palacios
José Palacioshttps://microsofters.com
Todo esto empezó con Windows 8 y ya vamos por Windows 11. La tecnología y la comunidad es la mezcla perfecta para seguir después de tantos años.

1 COMENTARIO

Suscríbete
Notificar de
guest

1 Comentario
Más votados
Más nuevos Más antiguos
Opinión Inline
Ver todos los comentarios
John G.

Taylor Swift es lo más sobrevalorado del mundo artístico, hay muchos otros ejemplos del abuso de la IA, por ejemplo esos programas que «desnudan» a la gente sin dificultad. Tendrían que estar absolutamente prohibidos y restringidas sus tecnologías.

Últimas noticias