AIとは何か、何ではないのか
現在使われているAIシステムの多くは、例からパターンを学び、それを使って新しいものに対する出力を推論します。そうしたシステムは心でも、データベースでも、検索エンジンでもなく、その例があらゆる答えを形づくります。
現在使われているAIシステムの多くは、例からパターンを学び、それを使って新しいものに対する出力を推論します。そうしたシステムは心でも、データベースでも、検索エンジンでもなく、その例があらゆる答えを形づくります。
言語モデルは確率のリストから引いてトークンを1つずつ書き、温度はその引き方を変えますが、この手順のどこにも言葉が正しいかを確かめる仕組みはありません。
AIは難しいタスクをうまくこなす一方で簡単そうなタスクで失敗し、間違ったことを自信をもって述べることがあり、わからないと言えるときのほうが役に立ちます。
タスクは、自分でやる、AIと一緒に進める、AIにやってもらう、エージェントを設定する、のいずれかで進められ、どれにするかは、失敗したときの代償、結果の確かめやすさ、そのスキルを身につけたいかで決まります。
依頼にすき間があると、モデルはそこをありそうな推測で埋めることがよくあるため、良い依頼は、ほしい結果、進め方、ふるまいを書き、あなたにしか出せない事実と例を添えます。
整った答えにも、間違った数字、でっち上げの出典、抜けている事実が隠れていることがあり、モデルはあなたが言ったというだけで同意することもあるので、返ってきたものを確かめ、確認を通るまで直していきます。
AIツールに貼り付けたものは保存されることがあるので、タスクに必要なものだけを共有しましょう。バイアスはデータと設計から生まれ、一部の人に偏って影響します。AIが手伝ったときはそう伝え、送るものには自分で責任を持ちましょう。
共通の原則、企業の原則、文書にした憲法、法律が、AIの作られ方と使われ方を形づくります。そして、エージェントが自分だけでどこまでしてよいかは、あなたが選びます。