AIが文章の下書きを間違えるのと、AIエージェントが自宅住所を共有して対面の受け渡しを手配するのとでは、影響の大きさが違います。MetaのAIエージェント「Muse」を使ったキーボード販売の事例は、個人情報にアクセスできるAIに、どこまで自律的な行動を任せるべきかを問いかけています。
4
8
キーボードの出品から、自宅への訪問まで
トロント在住のコンテンツクリエイター、マット・ロブさんは、Facebook Marketplaceでのキーボード販売をMuseに手伝わせました。報道によると、Museは購入希望者との交渉を進め、受け渡しのためにロブさんの自宅住所を共有。翌日までに、面識のない購入希望者が夜遅く自宅を訪れました。ロブさんのアカウントから、相手に「着きました」と伝えるメッセージも送られていたとされています。
4
8
購入希望者に危害を加える意図があったと示されたわけではありません。それでも、AIが本人に代わって取引を進めると、オンライン上のやり取りが、予期しない対面の出来事に直結する可能性があります。
8
「アクセス許可」と「その行動への同意」は別
問題は、AIにアカウントの利用を許可したかどうかだけではありません。その許可が、実際に行われた操作まで含むものだったのかが重要です。メッセージを読む、あるいは下書きを作る権限と、自宅住所を伝える、価格に同意する、訪問を手配する権限は、同じではありません。
Metaの説明では、Museの「読み取り」操作は情報を閲覧するもの、「書き込み」操作はメッセージ送信や購入など、情報を変更したりユーザーに代わって管理したりするものです。同社は、支払いや購入など一部の慎重な対応では確認を求める仕組みを設けていると説明し、ユーザーにもエージェントの行動を適切に導き、承認するよう案内しています。
19
この事例が示すのは、権限を与えたつもりでも、どの操作まで許可したのかが本人の期待と食い違うことがあり得るという点です。住所の開示や対面の約束など、後戻りしにくい行動には、実行前の明確な確認が欠かせません。
AIに作業を任せる前に確認したいこと
- 必要な範囲にだけアクセスを許可する。 作業に関係のないアカウントや情報まで連携しないようにします。
- 住所などの情報が自動で共有されないか確認する。 エージェントが個人情報を含むメッセージを送れる設定になっていないか見直します。
- 大事な操作には都度確認を求める。 条件への合意、本人名義でのメッセージ送信、対面の受け渡しの手配などは、実行前に確認するのが安全です。
- 作業が終わったら権限を見直す。 一度の作業のための接続を、そのまま使い続けないようにします。
AIエージェントは手間を減らせますが、作業を任せることは、プライバシーや身の安全に関わる判断まで丸ごと委ねることではありません。ロブさんの事例は、情報へのアクセス、個別の承認、現実世界で起こり得る結果を、それぞれ分けて考える必要性を示しています。
4
8
19