Temidden van de chaos en de omwenteling bij de Social Security Administration (SSA) veroorzaakt door het zogenaamde ministerie van Government Efficiency (Doge) van Elon Musk, zijn werknemers nu gevraagd om het gebruik van een generatieve AI-chatbot te integreren in hun dagelijkse werk.
Maar voordat een van hen het kan gebruiken, moeten ze allemaal een trainingsvideo van vier minuten bekijken met een geanimeerde, vier vingers vrouw die grof getekend is in een stijl die niet misplaatst zou zien op websites die in het begin van deze eeuw zijn gemaakt.
Afgezien van de gebruikte afbeeldingen van het web 1.0-tijdperk, faalt de video ook op het primaire doel van het informeren van SSA-personeel over een van de belangrijkste aspecten van het gebruik van de chatbot: gebruik geen persoonlijk identificeerbare informatie (PII) bij het gebruik van de assistent.
“Onze excuses voor het toezicht in onze trainingsvideo”, schreef de SSA in een fact sheet over de chatbot die vorige week in een e -mail met werknemers werd gedeeld. Het factsheet, dat Wired heeft beoordeeld, voegt eraan toe dat werknemers die de chatbot gebruiken “afzien van het uploaden van PII naar de chatbot.”
Werk aan de chatbot, genaamd de Agency Support Companion, begon ongeveer een jaar geleden, lang voordat Musk of Doge bij het bureau aankwam, vertelt een SSA -medewerker met kennis van de ontwikkeling van de app vertelt Wired. De app is sinds februari beperkt testen, voordat deze vorige week werd uitgerold voor alle SSA -medewerkers.
In een e -mail die deze week de beschikbaarheid van alle medewerkers aankondigde en door Wired werd beoordeeld, schreef het bureau dat de chatbot “was ontworpen om werknemers te helpen met dagelijkse taken en de productiviteit te verbeteren.”
Meerdere SSA -medewerkers, waaronder front office -personeel, vertellen Wired dat ze de e -mail over de chatbot volledig hebben genegeerd omdat ze te druk waren met daadwerkelijk werk, het compenseren van het verminderde personeelsbestand bij SSA -kantoren. Anderen zeiden dat ze de chatbot kort hadden getest, maar onmiddellijk niet onder de indruk waren.
“Eerlijk gezegd heeft niemand er echt over gesproken,” vertelt een bron aan Wired. “Ik weet niet zeker of de meeste van mijn collega’s zelfs de trainingsvideo hebben bekeken. Ik speelde een beetje met de chatbot en verschillende van de reacties die ik ervan heb ontvangen waren ongelooflijk vaag en/of onnauwkeurig.”
Een andere bron zei dat hun collega’s de trainingsvideo bespotten.
‘Je hoorde mijn collega’s de graphics uitlachen. Niemand die ik ken is [using it]. Het is zo onhandig en slecht, ‘zegt de bron, eraan toevoegend dat ook zij onnauwkeurige informatie kregen door de chatbot.
