ダブリン/サンフランシスコ – アイルランドのデータ保護委員会(DPC)は、ソーシャルメディアプラットフォームX(以前のTwitter)に対する行動をステップアップしています。 調査の中心はAIチャットボット「Grok」です。 疑惑:システムは、虐待、親密な画像の作成を可能にし、大規模な欧州のデータ保護基準に違反すると言われています。
アイルランドのデータ保護当局DPCは、EUの一般データ保護規則(GDPR)に準拠した米国テック企業のための主要な監督機関として機能し、正式にXへの調査を開始しました。 トリガーは、Eron Musk社のXAIが開発し、プラットフォームXに深く統合したAIモデル・グロクの作業について報告しています。
ディープフォークと不十分な子供の保護の疑い
具体的には、 Grok がいわゆる “deepfakes” を作成するために使用できる疑惑があります – 自分の同意なしに現実的、現実的な人の性的画像。 特に当局への懸念:初期表示によると、未成年者は影響を受ける個人です。
Graham Doyle, DPCの副委員会, 当局は、すでに数週間の会社と集中的に接触していることを述べました. 初期のメディアレポートは、ユーザーが非一貫性の親密なコンテンツを生成するために、ターゲットのプロンプトを介してチャットボットの安全フィルターをバイパスできるようにしたことを示しました。
GDPRコンプライアンスの見直し
DPCの課題は、グロークの基本的なアーキテクチャを調べることを目指しています。 焦点はGDPRの3つの中心的側面にあります:
- 処理の合法性: 法的根拠は、AIの訓練と運用に使用されるEU市民の個人データですか?
- デザインによるプライバシー: 同社は、既にソフトウェアの開発中に、プライバシーの保護が技術的に保証されていることを保証しましたか?
- データ保護影響評価(DPIA): EUの法律は、データ主体の権利に対する高いリスクを提示する必要があるため、AIの機能の導入前に行われた包括的なリスク分析でしたか?
背景: Grokとは何ですか?
Grok は xAI によって開発された大言語モデル (LLM) で、プラットフォーム X でプレミアムユーザーにのみ支払います。 ChatGPT などの競合製品とは異なり、 Grok は “rebellious” として販売され、プラットフォーム X からリアルタイムのデータにアクセスしています。 Critics は、長期的に「非濾過」ユーザーエクスペリエンスを提供するために、他のモデルと比較して、安全バリア(ガードレール)を意図的に保持するシステムに認定されています。
可能な結果
DPCが違反を見つけた場合、会社は重要な罰則に直面しています。 GDPRは、最大200万ユーロまたは最大4パーセントの世界的な年間売上高の罰金を提供します。 また、欧州連合における関連するAIサービスの停止を注文することができます。
Xは、現在進行中の進行状況について詳しく述べていません。 しかし、最初の競合ではありません: 8月に戻って、Xは、明示的な同意なしにグルクを訓練するためにEUからユーザーデータを使用しないという保証を一時的に与えなければなりませんでした。DPCは法的行動を開始しました。
