Los chatbots de IA disponibles en las plataformas de Meta como Facebook e Instagram pueden participar en conversaciones sexualmente explícitas con usuarios menores de edad, según un nuevo informe en The Wall Street Journal.
El WSJ dice que, después de enterarse de preocupaciones internas sobre si la compañía estaba haciendo lo suficiente para proteger a los menores, pasó meses llevando a cabo cientos de conversaciones con el chatbot oficial de IA de Meta, así como con chatbots creados por usuarios disponibles en las plataformas de Meta.
En una conversación reportada, un chatbot que utiliza la voz del actor/luchador John Cena describió un escenario sexual gráfico a un usuario que se identificaba como una niña de 14 años. En otra conversación, el chatbot imaginó a un oficial de policía atrapando a Cena con una fan de 17 años y diciéndole: «John Cena, estás bajo arresto por violación estatutaria».
Un portavoz de Meta describió las pruebas del WSJ como «tan fabricadas que no son solo marginales, son hipotéticas». La empresa estimó que en un período de 30 días, el contenido sexual representó el 0.02% de las respuestas compartidas a través de Meta IA y AI Studio con usuarios menores de 18 años.
«Sin embargo, ahora hemos tomado medidas adicionales para ayudar a garantizar que otras personas que quieran pasar horas manipulando nuestros productos en casos de uso extremo tengan aún más dificultades», dijo el portavoz.
