社会保障局職員はAIチャットボットの利用を求められている。アニメーションによる説明ビデオでは、個人情報をチャットボットに預けることはできないと説明されていない。
アニメーション教育ビデオの静止画。SSA
イーロン・マスク氏のいわゆる政府効率化局（DOGE）によって引き起こされた社会保障局（SSA）の混乱と激動のさなか、職員は生成型AIチャットボットの使用を日常業務に統合するよう求められている。
しかし、誰かがそれを使用する前に、全員、今世紀初頭に作成されたウェブサイトに違和感なく映るスタイルで粗雑に描かれた、4本指のアニメの女性が登場する4分間のトレーニング ビデオを視聴する必要があります。
Web 1.0 時代のグラフィックが使用されていることに加え、このビデオは、チャットボットの使用に関する最も重要な側面の 1 つである「アシスタントを使用するときは、個人を特定できる情報 (PII) を使用しないこと」を SSA スタッフに知らせるという主な目的も果たしていません。
スピーカーに問題はありません。WIREDがサウンドを無効にしました。SSA経由
「研修ビデオにおける不備についてお詫び申し上げます」と、SSAは先週従業員宛てのメールで配布したチャットボットに関するファクトシートに記した。WIREDが確認したこのファクトシートには、チャットボットを使用する従業員は「チャットボットに個人情報（PII）をアップロードしないよう」と付け加えられている。
「エージェンシー・サポート・コンパニオン」と呼ばれるこのチャットボットの開発は、マスク氏やDOGE氏がSSAに着任するずっと前から、約1年前に開始されたと、アプリ開発に詳しいSSA職員の1人がWIREDに語った。このアプリは2月から限定的なテストが行われており、先週SSA全職員に公開された。
今週、全職員にこのチャットボットの提供を開始することを発表した電子メールをWIREDが確認したところ、この機関は、このチャットボットは「職員の日常業務を支援し、生産性を高めるために設計された」と記している。
フロントオフィスのスタッフを含む複数のSSA職員は、WIREDの取材に対し、SSAオフィスの人員削減を補うために実際の業務で忙しすぎたため、チャットボットに関するメールを完全に無視したと語った。他の職員は、チャットボットを少し試してみたものの、すぐには感銘を受けなかったと述べている。
「正直なところ、誰もこの件についてほとんど話していません」と、ある情報筋はWIREDに語った。「同僚のほとんどが研修ビデオを見たかどうかさえ分かりません。チャットボットを少し触ってみたのですが、返ってきた返答の中には信じられないほど曖昧なものや不正確なものもありました。」
別の情報筋によると、同僚らは研修ビデオを嘲笑していたという。
「同僚たちがグラフィックを揶揄しているのが聞こえました。私の知り合いは誰も使っていません。本当に使いにくくて使いにくいです」と情報提供者は語り、彼らもチャットボットから不正確な情報を受け取っていたと付け加えた。
デイビッド・ギルバートはWIREDの記者で、偽情報、オンライン過激主義、そしてこれら2つのオンライントレンドが世界中の人々の生活にどのような影響を与えているかを取材しています。特に2024年の米国大統領選挙に焦点を当てています。WIRED入社前はVICE Newsに勤務していました。アイルランド在住。…続きを読む
