AI -chatbots beschikbaar op de platforms van Meta zoals Facebook en Instagram kunnen volgens een nieuw rapport in de Wall Street Journal seksueel expliciete gesprekken voeren met minderjarige gebruikers.
De WSJ zegt dat na het leren over interne zorgen over de vraag of het bedrijf genoeg deed om minderjarigen te beschermen, het maandenlang honderden gesprekken voeren met zowel de officiële meta AI-chatbot als door gebruikers gecreëerde chatbots beschikbaar op meta-platforms.
In één gerapporteerd gesprek beschreef een chatbot met behulp van acteur/worstelaar John Cena’s stem een grafisch seksueel scenario voor een gebruiker die zich identificeerde als een 14-jarige meisjes. In een ander gesprek stelde de chatbot zich voor dat een politieagent Cena vangen met een 17-jarige fan en hem vertelde: “John Cena, je bent gearresteerd voor wettelijke verkrachting.”
Een meta -woordvoerder beschreef het testen van de WSJ als “zo vervaardigd dat het niet alleen franje is, het is hypothetisch.” Het bedrijf schatte dat in een periode van 30 dagen seksuele inhoud goed was voor 0,02% van de antwoorden die werden gedeeld via Meta AI en AI Studio met gebruikers jonger dan 18 jaar.
“Niettemin hebben we nu aanvullende maatregelen genomen om ervoor te zorgen dat andere personen die uren willen besteden aan het manipuleren van onze producten in extreme use -cases, er nog een moeilijkere tijd van zal hebben,” zei de woordvoerder.
