AIと倫理を、いっしょに考える

採用に使われる人工知能が人の偏りをそのまま受け継ぐ過程を、6分ほどのゲームで見せる教育用の教材です。訪問者は会社の代表として自分で応募者を選んでいきますが、採用を速めるために自分の選択を学習した人工知能へ審査を任せることになります。その後、人工知能が特定の応募者をふるい落とし始めるのを見て、偏りはアルゴリズムが新たに作るのではなく学習データを通じて移ってくるのだと理解できます。

ブレーキの効かない自動運転車が誰をはねるかを決めなければならない場面を次々に示し、訪問者が外部の観察者としてどちらの結果を受け入れるか選ぶサイトです。シナリオをすべて終えると、自分の判断の傾向がほかの回答者と比較され要約として表示されます。人が傷つく判断を機械に任せるとき何を基準にすべきか、そしてその基準が人によってどれほど違うかを確かめられます。

自律走行中に発生する可能性のある倫理的な問題の状況をゲーム形式で表示するアプリです。正解があるわけではなく、他の人の選択も確認できます。

米ノースウェスタン大学コンピュータサイエンス学科が運営するオンライン研究実験です。短い演説文を読み、民主党側の発言か共和党側の発言かを当てる課題が出され、判断を助ける「説明ヒント」も表示されます。人が本物と偽物、あるいは発言の出所をどれだけ見分けられるかを調べる研究です。

2枚の写真のうち1つは実際の人で、もう1つはAIが生成した偽の顔です。AI画像を区別する能力をテストするゲームです。

画像や動画ファイルに埋め込まれたContent Credentials、つまり制作・編集の履歴情報を開いて確認するツールです。ファイルをアップロードすると、いつどのツールで作られ、どう変更されてきたかが段階的に表示されます。AI生成物の来歴表示を実際に確かめるのに向いています。

Google PAIRが作った視覚的な解説で、言語モデルBERTに文の空欄を埋めさせ、モデルが世界について何を学んだのかを調べます。「in texas, they like to buy ___」のように地名を一つ変えるだけで候補の単語と確率の順位が変わる様子を自分で確かめられます。言語モデルの予測が中立的な知識ではなく学習した文章に含まれる統計的な連想であり、そのため社会的な偏りまで一緒に学んでしまうことを理解できます。

「ガンダルフ」というチャットボットに話しかけ、隠されたパスワードを聞き出すゲームです。1つのレベルを突破するたびにガンダルフの防御が強くなり、同じ手口では次に進めません。AIがどんな言葉に応じ、どう防ぐのかを体験しながら、AIセーフティの基本を学べます。