Los investigadores hacen jailbreak a los chatbots de IA con arte ASCII: ArtPrompt omite las medidas de seguridad para desbloquear consultas maliciosas.
Los chatbots que utilizan inteligencia artificial (IA) están cada vez más bloqueados para evitar abusos maliciosos. Los desarrolladores de IA no quieren que sus productos sean subvertidos para promover contenido odioso, violento, ilegal o igualmente dañino. Por lo tanto, si preguntaras a uno de los chatbots más populares hoy en día sobre cómo hacer algo malicioso o ilegal, probablemente solo enfrentarías el rechazo. Además, en una especie de juego tecnológico de golpear al topo , los principales actores de la IA han dedicado mucho tiempo a tapar agujeros lingüísticos y semánticos para evitar que la gente se salga de las barreras de seguridad. Es por eso que ArtPrompt es un desarrollo bastante sorprendente.
