本文へスキップ
AIの基本に戻る

AIの基本 · 第7章(全8章)

プライバシー、バイアス、結果に責任を持つこと

AIツールに貼り付けたものは保存されることがあるので、タスクに必要なものだけを共有しましょう。バイアスはデータと設計から生まれ、一部の人に偏って影響します。AIが手伝ったときはそう伝え、送るものには自分で責任を持ちましょう。

12分3個中0個の目標を達成

目標

  • お客さんのメッセージにある個人情報を、検出器が見落とすものも含めて隠し、結果をコピーしましょう。未完了
  • AIが何をして、あなたがどう確かめたかを伝える一文を組み立てましょう。未完了
  • 確認問題に合格しましょう。未完了

ステップ1/4: 本文

貼り付けたものは保存されることがある

オンラインのAIチャットアシスタントにテキストを貼り付けると、そのテキストはサービスを運営する会社に送られます。サービス、プラン、設定によっては、保存されたり、今後のモデルの学習に使われたりすることがあります。個人的なものを貼り付ける前に、そのサービスがチャットをどう扱うかを、設定と利用規約で確かめましょう。

タスクに必要なものだけを共有する

個人情報とは、ある人を指し示すもののことです。名前、メールアドレス、電話番号、住所、注文番号やID番号などがあります。ほとんどのタスクには必要ありません。苦情の要約は、お客さんの名前の代わりに「[名前1]」と書いても同じように役立ちます。

タスクに必要なものだけを共有することを、データ最小化といいます。貼り付ける前に個人情報を1つずつ取り除くか、プレースホルダーに置き換えることを、伏せ字にするといいます。ツールが多くを見つけてくれますが、見落としもあるので、自分でもテキストを読みましょう。

バイアスはデータと設計から生まれる

ここでいうバイアスとは、システムの出力が一方に傾き、ある人々のグループに有利または不利になることです。第1章で見たように、偏ったデータから生まれることがあります。過去の採用の判断で学習したシステムは、以前に採用された人と似た人を優遇するようになることがあります。設計から生まれることもあります。作り手が何を含め、何をテストし、何を外すかという選択です。どちらの場合も、害はほかよりも一部のグループに偏って及び、多くはデータに少なかった人やテストにいなかった人です。出力が人に関わるものなら、誰を不利に扱うかもしれないかを考えましょう。

AIが手伝ったと伝え、結果に責任を持つ

AI利用の表示は、AIが何をして、あなたがどう確かめたかを伝える一文です。たとえば「この手紙はAIが翻訳しました。両方の言語が読める同僚が確認しました。」のように書きます。学校や勤め先、出版社によっては、これを求めます。表示をしても責任は移りません。最初の下書きを誰が書いたとしても、あなたが送ったり公開したりするものはあなたのものです。

ビジュアルでは

検出器が、作り話のお客さんのメッセージから個人情報を探します。これはAIではなく、このページで動くいくつかの固定ルールです。たとえば、メールアドレスのパターンや、短い名前のリストがあります。あなたが入力したものはページの外に出ません。検出器が見落としたものを隠し、その理由を見て、結果をコピーします。そのあと、AI利用の表示を組み立てます。

ステップ2/4: 試す:伏せ字にして、表示する

伏せ字にして、表示する

お客さんのメッセージに検出器をかけ、見落としを隠して、貼り付けるテキストをコピーします。そのあと、AIがどう手伝ったかを伝える一文を組み立てます。

モード:本物本物:検出器とAI利用の表示は、AIではなく固定ルールによってこのページで作られ、あなたが入力したものはページの外に出ません。お客さん、隣人、その個人情報はこの章のための作り話で、狭いリストが何を見落とすかを見せるために、検出器の名前のリストはわざと短くしています。ページはそれぞれの個人情報がどこにあるかを知っているので、まだ見えているものがあれば伝えられます。

ステップ3/4: 確認問題

確認問題

質問1/4お客さんの苦情をAIチャットアシスタントに要約してもらいたいと思います。苦情には、お客さんの名前、メールアドレス、注文番号が含まれています。最初に何をすべきでしょうか?

次:質問2/4

質問2/4AIサービスに貼り付けたものが保存されたり、今後のモデルの学習に使われたりするかどうかは、どこで確かめられますか?
質問3/4ある会社が、自社の10年分の採用の判断を使って、応募書類を順位づけするシステムを学習させます。その期間に採用された人の大半は男性でした。起こりそうな問題は何でしょうか?
質問4/4クラブの会報の最初の下書きをAIが書きました。あなたはそれを送りましたが、次の集まりの日付が間違っていました。正しいのはどれでしょうか?

ステップ4/4: これでできること

これでできること

  • 貼り付ける前に、テキストから名前、メールアドレス、電話番号、住所、ID番号を取り除き、ツールが見落としたものを確かめる。
  • バイアスが、システムが学んだデータと、システムの作られ方の両方から生まれうることと、誰に害が及びうるかを説明する。
  • AIが何をして、自分がどう確かめたかを伝える一文を書く。
  • 最初の下書きを誰が書いたとしても、自分が送ったり公開したりするものを自分のものとして扱う。