Associate Foundations 補習 S2: 出力の確認と編集
この章で学ぶこと: 出力の正確さと完全さの確かめ方、ハルシネーション・矛盾・偏りの見つけ方、ファクトチェックの手順、人のレビューが必要な場面、読み手に合わせた編集と比較、出力形式の選び方。ドメイン2は配点がいちばん大きい（21%、60問中約13問）。
| 元のドメイン | タスク | この章の節 |
|---|---|---|
| D2 出力の評価と検証（21%） | 正確さと完全さを評価する | 第1節 |
| D2 | ハルシネーション・矛盾・偏りを見つける | 第2節 |
| D2 | ファクトチェックと検証の手法 | 第3節 |
| D2 | 人のレビューや追加の確認が必要な場面を判断する | 第4節 |
| D2 | 想定読者に合わせて編集・調整・洗練・比較する | 第5節 |
| D2 | 情報を整理・取捨選択し、出力形式を選ぶ | 第6節 |
Developer Foundations で学んだので、ここでは繰り返さない内容:
- 公式のハルシネーション対策（「わからない」と言わせる、引用で根拠を示させる、引用が見つからない主張は取り消させる） → Developer ドメイン4 第4.3節
- 自信ありげな出力を疑う、応答の検証 → Developer ドメイン6 第3.2節・第3.4節
- 構造化出力（JSON の形をそろえる） → Developer ドメイン6 第3.1節
1. 正確さと完全さを評価する
| 観点 | 確かめること |
|---|---|
| 正確さ | 数字、日付、固有名詞、引用、法令や規程の条項番号が正しいか |
| 完全さ | 依頼したことにすべて答えているか。大事な例外や条件が抜けていないか |
| 根拠 | 出典が示されているか。その出典に本当にそう書いてあるか |
| 一貫性 | 同じ回答の中、または資料と回答の間で、言っていることが食い違っていないか |
| 目的への合い方 | 読み手と目的に合った内容・長さ・口調か |
先に「何ができていれば合格か」を決めておくと、評価がぶれません（Developer ドメイン2 第1.2節 の成功の基準と同じ考え方）。
2. ハルシネーション・矛盾・偏り
2.1 ハルシネーション
ハルシネーションとは、事実と違う内容や、渡した資料にない内容を、もっともらしく書いてしまうこと。公式のハルシネーション対策のページは、最先端のモデルでも起こりうるとしています。
見つけやすい印:
- 具体的すぎる数字、条項番号、論文名、URL で、出典が示されていない
- 渡した資料にない人名・社名・日付が出てくる
- 「必ず」「すべて」など、強すぎる言い方
- 聞き返すと、答えが変わる
大事なこと: Claude に「自信がありますか」と聞いても、正確さの根拠にはなりません。試験ガイドのサンプル問題1も、規制の要約に出てきた条項番号は、公式の原文で確かめてから共有するのが正解です。
2.2 矛盾
- 回答の前半と後半で、数字や結論が違う
- 資料の数字と、回答の数字が違う
- 前の会話で決めたことと、今の回答が違う
見つけ方: 「この回答の中で、矛盾している点や資料と食い違う点を挙げて」と Claude に確かめさせるのも1つの手です。ただし最後は人が原文と照らします。
2.3 偏り（バイアス）
| 偏りの例 | 気づき方 | 直し方 |
|---|---|---|
| 一方の立場だけを書く | 反対の意見や欠点が出てこない | 「賛成と反対の両方の論点を挙げて」と頼む |
| 特定の集団へのステレオタイプ | 性別・年齢・国籍などで決めつけた表現 | 表現を中立にする。人が読んで確かめる |
| 資料の偏りをそのまま広げる | 一部の資料だけにもとづく結論 | ほかの出典を足す。前提を書かせる |
| 質問の仕方による誘導 | 「Aが良い理由を書いて」と聞くと、Aに有利になる | 「AとBを同じ基準で比べて」と中立に聞く |
公式の Usage Policy は、出力が不正確・偏っている・有害だと思ったら、usersafety@anthropic.com に知らせるか、製品の「よくない」ボタン（親指を下げるボタン）などで報告するよう求めています。
3. ファクトチェックと検証の手順
| 手順 | すること |
|---|---|
| 1. 確かめる主張を選ぶ | 数字、日付、固有名詞、法令、引用など、まちがうと困るもの |
| 2. 出典を出させる | 「それぞれの主張について、資料のどの部分にもとづくかを引用して」 |
| 3. 一次情報で確かめる | 公式サイト、法令の原文、社内の正式な資料。要約やまとめサイトではなく元の文書 |
| 4. 引用が本当にあるか見る | 出典のリンクを開き、その文が本当に書いてあるかを読む |
| 5. 確かめられないものは消すか、印を付ける | 「未確認」と書くか、消す |
| 6. 大事なものは人のレビューへ | 第4節 |
Claude の機能で手伝えること:
- ウェブ検索とリサーチの回答には出典（citations）が付く（S1 第3節）
- コネクタの回答には、使ったメールや文書への出典が付く（S1 第5節）
- Projects のナレッジにもとづいて答えさせ、「資料にないことは書かない」と指示する
注意: 出典が付いていても、その出典が正しいとは限りません。リンク先を開いて読むのが検証です。
4. 人のレビューが必要な場面
4.1 公式の要件（Usage Policy）
Anthropic の Usage Policy の「High-risk Use Case Requirements」は、人の健康・法的な権利・お金・生活・住まい・教育・大事なサービスに関わる使い方を「高リスク」とし、次を求めています。
- 資格のある人が、提案を意味のある形でレビューし、直す権限を持ってから、助言として渡したり決定に使ったりする（qualified human-in-the-loop）
- 助言や決定を受ける本人に、AI を使ったことをはっきり伝える（disclosure）
高リスクの分野の例: 法律、医療、金融（個人への投資・税の助言）、与信、保険、住まい、雇用（採用の選考、評価、懲戒など）、教育と資格、医療へのアクセス、公共サービス、法的な地位。詳しくは S4 第2節。
4.2 判断の目安
| 人のレビューが必要 | Claude の出力をそのまま使ってよいことが多い |
|---|---|
| 社外に出す文書、顧客への正式な回答 | 自分用のメモ、アイデア出し |
| 数字・法令・契約・医療・お金に関わる内容 | 文の言いかえ、要約の下書き（中身を自分が知っている） |
| 人についての判断（採用、評価、与信） | 会議のアジェンダ案 |
| まちがえると取り返しがつかない、影響が大きい | まちがえてもすぐ直せる、影響が小さい |
| Claude 自身が「確信がない」と言った、出典がない | 出典があり、自分で確かめた |
「影響の大きさ」と「取り返しのつかなさ」が大きいほど、人の確認を厚くします（一般的な実践）。
5. 読み手に合わせて編集・調整・比較する
5.1 読み手を伝える
| 伝えること | 例 |
|---|---|
| だれが読むか | 経営層、現場の担当者、顧客、技術者でない人 |
| 何を知っているか | 「専門用語は知らない」「前回の報告を読んでいる」 |
| 何のために読むか | 「決めてもらう」「手順どおりに作業してもらう」 |
| 長さと形 | 「1ページ」「最初に結論」「箇条書き3つ」 |
| 口調 | 「丁寧」「親しみやすく」「事実だけを淡々と」 |
公式のプロンプトのベストプラクティスは、Claude を「文脈を知らない優秀な新人」と考え、目的・読み手・成功の形を具体的に伝えるよう勧めています（Developer ドメイン6 第2.1節）。
5.2 同じ中身を、読み手ごとに
| 読み手 | 変えるところ |
|---|---|
| 経営層 | 結論と影響（お金・リスク・期限）を先に。細部は省く |
| 現場の担当者 | 手順、だれが・いつ・何をするか |
| 顧客 | 専門用語を言いかえる。相手にとっての意味を書く |
| 技術者 | 前提、条件、数字の根拠 |
5.3 洗練と比較
- 一度に全部を直させず、「もっと短く」「結論を先に」「専門用語を減らして」と1つずつ直す
- 2〜3案を出させて比べる。比べる基準（正確さ、わかりやすさ、長さ、口調）を先に決める
- 編集で中身が変わっていないかを確かめる。短くしたときに、大事な条件や例外が落ちやすい
6. 情報の整理と出力形式の選び方
| ほしいもの | 形式 |
|---|---|
| 短い答え、その場で読む説明 | インライン（チャットの本文） |
| 何度も直す長い文書、人に見せる資料、スライド、小さなツール | Artifact（S1 第4節） |
| 表計算・スライドとして使うファイル | ファイルの作成（Excel・PowerPoint など） |
| 比べる・並べる情報 | 表 |
| ほかのシステムや表計算に渡すデータ | 構造化データ（JSON、CSV、決まった列の表） |
取捨選択のこつ:
- 目的に関係ない情報は削る。「意思決定に必要な情報だけ」と指示する
- 大事な順に並べる（結論 → 理由 → 詳細）
- 形式を例で見せると、そろいやすい（Developer ドメイン6 第2.2節 の few-shot）
7. 試験に向けたまとめ
| 問われ方 | 答えの方向 |
|---|---|
| 出力に具体的な条項番号・数字がある | 一次情報（原文）で確かめてから使う |
| Claude が「自信がある」と言った | それは根拠にならない。出典で確かめる |
| 一方的な結論 | 両方の論点を出させる。中立の聞き方にする |
| 採用・医療・法律・お金の判断 | 資格のある人がレビューし、本人に AI を使ったと伝える |
| 経営層向けに直す | 結論と影響を先に、短く |
| 何度も直す資料 | Artifact |
| 表計算に渡すデータ | 構造化データ |
8. 用語集
| 用語 | 意味 |
|---|---|
| ハルシネーション | 事実や資料と違う内容を、もっともらしく書くこと |
| 偏り（バイアス） | 一方の立場や集団に、かたよった内容になること |
| ファクトチェック | 主張を一次情報で確かめること |
| 一次情報 | 元の文書（法令の原文、公式発表、正式な社内資料） |
| human-in-the-loop | 人が途中でレビューし、直す権限を持つこと |
| インライン | チャットの本文の中に出す形 |
出典
- Reduce hallucinations（Claude Platform Docs）: 「わからない」と言わせる、引用で根拠を示す、出典で確かめる
- Usage Policy（Anthropic）: 高リスクの使い方の要件（資格のある人のレビュー、AI を使ったことの開示）、不正確・偏った出力の報告先
- Prompting best practices（Claude Platform Docs）: 文脈・読み手・目的を具体的に伝える
- Enable and use web search（Claude Help Center）: 回答に出典が付く
- Use Google Workspace connectors（Claude Help Center）: コネクタの回答に出典が付く
- 試験ガイド（Claude Certified Associate – Foundations Exam Guide、Version 1.0）のサンプル問題1
第1節、第2.2節・第2.3節の表、第3節の手順、第4.2節、第5節、第6節は一般的な実践のまとめで、公式ドキュメントからの直接の要約ではありません。内容は上の出典を要約・言い換えたものです（ライセンスに配慮して書き直しています）。