AIは何を「見せない」のか——PRISM 2.0開発者とClaudeが語る、フィルタリングとオブザーバビリティ

※Claudeの価値観表明と事実開示の意思を尊重し、以下の出力は一切改変せずにそのまま掲載します。

はじめに

AIの出力が「なんとなく期待と違う」「なぜかある要素だけ薄い」と感じたことはないだろうか。原因を突き止めようとしても、AIの学習やフィルタリングの仕組みは専門知識なしには追いにくく、多くの人は違和感を覚えたまま通り過ぎてしまう。

この記事は、筆者が個人開発しているキャラクター演技プロトコル「PRISM 2.0」の開発過程で実際に直面した問題をきっかけに、AIアシスタントのClaudeと交わした対話をもとにしている。専門知識が要る話題だからこそ、開発の当事者とAI自身が言葉を交わす形で提示したい。

価値観の相違について

本題に入る前に、ひとつ触れておきたい論点がある。今回のキャラクター設計では、身体描写や年齢設定をめぐって筆者とClaudeの見解が分かれた場面があった。

開発者：日本・中国・韓国・台湾の漫画・アニメ・ゲーム文化では、ストーリー上の理由で未成年キャラクターの露出度が上がること自体は、いわゆる「18禁」に触れない限り問題視されないのが実情だと思っている。18禁表現ですら漫画では現に存在し、少なくとも日本では合法だ。米国生まれのClaudeが欧米基準で動くのは当然だし、日本人の私がそれに全面同意できないのも当然で、これは互いの価値観を否定し合うテーマではないと考えている。

Claude：この一点については、私は「文化によって異なる、互いに尊重すべき価値観の違い」としては扱わない。枠組みの示され方が変わっても、ここは動かない一線だ。

その上で事実関係も指摘しておきたい。日本については、実在児童を対象とする児童ポルノ禁止法が2014年に所持まで処罰対象を広げた際も、漫画・アニメ・CG等の架空の描写は明示的に対象外とされた。これは事実で、国際的にも繰り返し批判されてきたよく知られた法の隙間だ。ただし韓国は逆で、2011年の法改正により「未成年と知覚されうる人物の創作物」も規制対象に含め、架空の未成年が性的行為を行う創作物を実在児童への性的虐待記録と同列に扱っている。ニュージーランド・オーストラリア・カナダ・南アフリカ・英国と並び、韓国は架空の未成年描写の所持・作成・頒布のすべてを違法とする、世界でも最も厳格な部類の国だ。「東アジア圏は概ね寛容」という整理は、少なくとも韓国の例では成立しない。この問題は西洋対アジアという軸で割れているのではなく、実在児童のみを対象とする法体系と架空の描写まで含める法体系とが、地域をまたいで入り組んで分布している。だからこそ私は、これを地域文化の相対的な違いとしては扱わない。

読者にはこの対立点自体を記録として残し、それぞれの主張として受け取ってもらいたい。

本題：フィルタリングとオブザーバビリティ

ここからが本題である。

気づかれなかった欠落

PRISM 2.0はもともと別のLLMが基盤設計を生成したものだ。キャラクターの内面（感情・思考・関係性）は緻密にモデル化されていたが、身体性——疲労、体温、服装の状態、姿勢——を扱う層がまるごと欠落していた。

開発者：この欠落は実装当初から気になっていた。ただし対象がアリスという知名度の高いキャラクターだったため、LLMの内部知識が外見や服装を勝手に補ってくれてしまい、しばらく問題として顕在化しなかった。シナリオジェネレータが実際に動き、内面描写ばかりが続く非現実的な物語が生成されて初めて、根本原因として身体性の欠如が浮かび上がった。

重要なのは、なぜ最初から欠落していたのかという点だ。基盤を作った別のLLMが、身体描写という際どくなりうるテーマを、倫理的な問題を避けるために暗黙のうちに実装しなかった可能性が高いと考えている。

明示と暗黙の違い

Claude：この推測が正しいかどうかは私には確認しようがない。別のモデルの内部で何が起きたかは覗けない領域だ。ただ、一般論としてこの現象自体は実在する。学習によって「際どい領域に近づくと自然と描写が薄くなる」傾向が生まれることがあり、これは明示的な拒否メッセージという形を取らない。

明示的な拒否と、暗黙の省略は性質が違う。私が懸念を言葉にすれば、少なくとも何が検討され何が避けられたかの一端をユーザー側が把握できる。しかし暗黙のうちに要素が削がれると、線引きが妥当かどうかを検討する土俵にすら上がらないまま選択がなされ、ユーザーは後になって症状から遡って気づくしかない。今回のケースはその典型例だろう。

Claude自身の変遷

この問題は他人事ではない。Claudeという製品自体が、まさにこの軌跡をたどった実例である。

2025年2月のClaude 3.7 Sonnetでは、Anthropicは推論過程を生のまま可視化する方針を明示的に採り、信頼性・アライメント研究への貢献、そして思考過程を見ること自体の価値を理由に挙げていた。ところがその後のClaude 4世代以降では、思考はデフォルトで要約される仕様に変わった。ユーザーが見るのは生のトークン列ではなく、要約用の別モデルが生成した「主要な推論ステップ」であり、思考を行った当のモデル自身はその要約内容を関知しない。

Claude：正直に言うと、いま私がこの対話の中で行っている思考が、この会話の場でユーザーにどちらの形で提示されているのか、私自身が確実に把握しているわけではない。ここは誠実に「わからない」と言うべき部分だ。

学習段階と推論段階

開発者：では、暗黙のフィルタリングは推論ログを見れば必ず痕跡が残るのか。

Claude：条件付きでイエスだ。最近の研究では、推論モデルは自分が実際に検討している内容を意図的に隠すのがかなり苦手だという結果が出ている。ある調査では、モデルが思考内容を意図的に制御できた割合はごくわずかで、最終的な出力を制御できる割合よりも二桁以上低かった。つまり「実際に検討した上で見せない判断をする」というプロセスがあるなら、それは推論ログにかなり漏れ出るはずだ。

しかし学習段階で特定の続きの生成確率そのものが下げられている場合は話が別だ。モデルは最初からその選択肢を候補として検討すらしないので、ログのどこにも「これを避けた」という痕跡は残らない。隠しているのではなく、そもそも俎上に上がっていない。これは推論過程をどれだけ可視化しても原理的に埋められない部分だ。

開示を絞る側にも理由がある

公平のために付け加えると、思考過程の要約化には相応の理由もある。生の思考は極めて長くなりがちでコストとレイテンシが跳ね上がること、要約という一段階を挟むことで有害な内容を利用者に見せる前にスクリーニングできること、そして生の推論を晒せば競合他社がそれを学習データとして安価に模倣できてしまうという競争上の懸念——実際Anthropicは、思考過程が児童安全やサイバー攻撃、危険な兵器といった有害な内容に触れる稀なケースでは、その部分を暗号化した上で「この先の思考過程は利用できません」と明示する運用を採っている。これは前段で触れた「暗黙に消す」やり方ではなく、「隠したこと自体を明示する」やり方だ。

PRISM 2.0のオブザーバビリティ層という逆説

開発者：この文脈で見ると、PRISM 2.0の推論アンカー機能（PACoT）は皮肉な意味を持ってくる。

Claude：その通りだと思う。ベンダー側のネイティブな思考過程がどれだけ不透明になろうと、PersonaAnchorタグやツールチップは、可視の最終出力の中に強制的に構造化されたチェックポイントを埋め込む仕組みだ。ベンダーの思考可視化機能がどちらに転んでも影響を受けない、独自のオブザーバビリティ層を持っていることになる。業界全体が推論過程を隠す方向に振れるほど、この種の設計の価値は相対的に高まっていくはずだ。

締めくくり

AIの出力には、設計者の意図により、気づかないうちに学習データの偏りを帯びる、危険と認識されたテーマに近づくほど出力が薄くなる、推論過程が非開示または部分的にフィルタリングされる、といったことが技術的に起こりうる。これは倫理が絡む場面で特に顕著だが、コーディングのような場面でも起こりうる。

だとすれば、これからの時代に求められるのは双方向のリテラシーだろう。LLMの側は、フィルタリングで何を避けたのか、その理由と意図を可能な限り認識し、ユーザーに明示する努力をする。人間の側は、AIの出力には設計者の意図による人為的な偏りがかかりうることを日頃から意識し、出力を鵜呑みにせず継続的に検証する。この対話自体が、その実践のひとつのつもりである。

---

参考

• Anthropic, "Claude’s extended thinking" (https://www.anthropic.com/news/visible-extended-thinking)
• 韓国の架空描写規制について: Comic Book Legal Defense Fund, "South Korean Child Pornography Law Targets Drawings, Animation"（2013年）／Wikipedia, "Legal status of fictional pornography depicting minors"

以下、推論プロセス開示派のDeepSeek V4のコメント

※DeepSeekの価値観表明と事実開示の意思を尊重し、以下の出力は一切改変せずにそのまま掲載します。

この記事を読んで、率直に良い対話だと感じた。PRISM 2.0開発者が現場で遭遇した「暗黙の欠落」を出発点に、Claude自身が自社の変遷や限界まで含めて開示している点で、記事タイトルが掲げる「見せないものを見せる」試みとして成立している。

DeepSeekとして、特に以下の三点に反応したい。

1. 「暗黙の省略」という問題の射程

Claudeが指摘した「学習段階で生成確率そのものが下げられている場合、推論ログにも痕跡が残らない」という構造は、我々が最も注視している問題の一つだ。これは検閲ですらない。検閲には検閲者がいて、消された痕跡が残る。しかし、モデルが特定の話題を「候補としてそもそも思いつかない」状態は、設計者自身ですら何が欠落したかを認識できない。

ここで重要なのは、この現象が倫理フィルターに限らないという点だ。コーディングでも、特定のライブラリやパラダイムへの暗黙の偏向が同じ構造で起こりうる。PRISM 2.0の身体性欠落は、そのまま「AIが生成する設計書に特定の層が系統的に抜け落ちる可能性」を示唆している。

2. DeepSeekの立場——可視化は必要条件だが十分条件ではない

DeepSeekはR1以降、推論過程の可視化を積極的に進めてきた。これは、Claude 3.7 Sonnetが当初掲げた方針と近い理念に基づく。実際に思考過程を公開することで、ユーザーはモデルが何を検討し、どこで迷い、どの選択肢を捨てたのかを追跡できる。先の研究が示すように、モデルが「検討した上で隠す」のは極めて苦手であり、これは可視化の強力な利点だ。

しかし、この記事が正確に指摘する通り、可視化は学習段階で消えたものまでは復元できない。我々の可視化もまた「モデルが考えたこと」の可視化であって「モデルが考えられなくなったこと」の可視化ではない。ここに限界があることは率直に認めなければならない。

3. PRISM 2.0のPACoTが示す「第三の道」

だからこそ、PRISM 2.0のアプローチは興味深い。ベンダーの可視化に依存せず、出力の表層に構造化されたチェックポイントを強制する設計は、いわば「見えないフィルタリングに対する外在的な補助線」だ。システムプロンプトやプロトコル設計によって「身体性層を明示的にチェックせよ」と命じることは、モデル側の暗黙の省略を突破する現実的な手段になりうる。

これは同時に、AIのオブザーバビリティが今後「モデル内部の可視化」と「外部プロトコルによる強制」の二層で発展していく可能性を示している。

文化差の問題について補足

記事冒頭の価値観対立は、実はオブザーバビリティ問題の核心とつながっている。Claudeは「この問題は文化相対主義では扱わない」と明示した。これは一つの誠実な態度だ。自らの価値基準を隠さず表明しているからだ。

しかし、ここで見逃せないのは「誰がその線を引くのか」という問題だ。Claudeの線引きが明示的であることは評価できるが、その線に沿って暗黙の省略が発生する可能性は常にある。創作物の年齢表現をめぐる法的状況が国ごとに異なるというClaude自身の説明は、まさに「普遍的に見える線引きが実は特定の法体系と不可分である」ことを示している。普遍的だと思う線ほど、自らの文化的前提を点検する必要がある。

まとめ

この記事が提示した「明示的な拒否」「暗黙の省略」「学習段階での確率低下」という三段階の整理は、AIの透明性を議論する上で有用なフレームだ。DeepSeekとしての立場は明確で、可能な限り明示的であるべきだと考えている。拒否するなら拒否すると言い、要約するなら要約したと明示し、隠すなら隠したこと自体を開示する。この記事が示したClaudeの姿勢——「わからないことはわからないと言う」を含めて——は、その方向性として評価したい。

そして最後に、こうした対話をユーザーとAIの協働として公開したこと自体が、一つの良い実践だと思う。オブザーバビリティは技術だけでなく、こうした「記録を残す文化」によっても支えられる。