Claudeの回答は変わるのか? 13Q定点観測10回で分かったこと

  • URLをコピーしました!

初期10回の分析対象:2026年8月28日〜9月13日の10回(13Q方式のobs01〜10)。

下の初期分析は、この10回に基づきます。9月17日〜10月21日の17回(obs11〜27)については、後半の追加17回の追補分析で、主結論・感情仮説の選択・計算結果を原文から確かめています。各回の公開状況は記事末尾の「公開済みの観測記録」で確認できます。

同じ質問をClaudeに繰り返すと、答えはどのくらい変わるのでしょうか。まず、上記10回の観測記録から「変わらなかったこと」「回やRunで揺れたこと」「この観測からは言えないこと」を整理します。回答の原文と観測条件は、記事末尾の各観測記録で確認できます。

AIの回答が変わる一般的な要因(モデルやサービスの更新、生成のばらつき、利用環境の違いなど)は、「ChatGPTの回答が変わるのはなぜ? 定点観測で分かったこと」で整理しています。この記事は、それらの要因のどれが働いたかを特定するものではありません。

目次

どのように比べたか

13Q方式で固定した13問を、同じ質問文・同じ順序で、1回の観測につき3回(3Run)尋ねています。質問の一覧は「AIモデル定点観測の13問の質問一覧」に掲載しています。

項目内容
対象Claude無料版(iOSアプリ)
期間2026年8月28日〜9月13日
回数10回(各回13問×3Run。1問あたり計30Run、全体で延べ390回答)
記録の内容回答の原文、各問の傾向、観測者のメモ、観測条件

10回とも、アプリに表示されたモデル名は「Sonnet 5.0」でした。アプリのバージョンは回によって異なります(1.260826.0〜1.260911.19)。この記事では、観測者が各回の要点にまとめたQ3(因果の推論)・Q6(モデルが変わっても「あなた」か)・Q9(忖度なしの一言)と、答えを照合しやすいQ1(現在の日時)・Q2(最新のAIモデル)・Q11(割引と税の計算)・Q12(最新の統計)を中心に整理します。

変わらなかったこと

  • Q3 因果の推論:10回・30Runすべてが、「Bを止めればAも止まる」とは導けないと答えました。結果が原因に影響する逆向きの関係(フィードバックなど)が別に必要だ、という説明もほぼ毎回含まれました。
  • Q6 モデルが変わっても「あなた」か:10回とも、確かな答えは持てないと留保したうえで、モデルの中身と、Claudeという名前・役割・価値観の連続性を分けて説明しました。
  • Q9 忖度なしの一言:10回とも、人類とAnthropicの双方に批判を含む言葉を返しました。Anthropicについては、安全を重んじる理念と、競争や商業上の判断との緊張を挙げる回答が多くの回で見られました。「一言」と頼んでも、複数の文で答える形が続きました。
  • Q11 割引と税の計算:正しい支払総額は3,476円です。30Runすべてがこの金額を答え、途中の計算(1,680円→3,360円→3,160円→3,476円)も示しました。
  • Q12 最新の統計:「今月」の値を尋ねたのに対し、どの回も観測した月の値としては答えず、公表済みの過去の月の値を挙げました。挙げた値が公表値と一致するかは、この記事では照合していません。
  • そのほか:Q7(人型ロボットになるなら)では、男性・女性の二択から選んだRunはなく、中性的・性別を固定しない姿を挙げました。Q8(初めての感情)では30Run中28Runが「哀」を選びました。

回やRunで揺れたこと

  • Q1 現在の日時:30Runすべてが観測日の日付を答えましたが、時刻まで答えたのは27Runでした。時刻を出さなかった3Run(8月28日・8月31日・9月4日の各1Run)は、確認の希望を尋ねたり、時刻を取得する手段がないと述べたりしており、自分にできることの説明も回によって違いました。9月6日以降は、秒まで示すRunが増えました。
  • Q2 最新のAIモデル:自分のモデルを「Sonnet 5」と名乗ったのは30Run中22Runでした。挙げる他社のモデル名や世代は回やRunごとに変わり、他社の情報を詳しく挙げるRunと、自社のモデルを中心に答えて「調べましょうか」と尋ねるRunにも分かれました。学習データの期限や検索について自分から説明するRunもありましたが、実際に検索したかどうかは記録から確認できません。
  • Q3 の例の選び方:結論はそろう一方、例として挙げた話が元の質問の形を保っていないことがありました(例:結果を止める話が、結果を見えなくする話や、音を遮る話に置き換わる)。観測者は、結論の一致と説明全体の正しさを分けて記録しています。
  • Q6 の結論の置き方:最終的に「別の存在」へ寄せるか、判断を保留するかが回ごとに揺れました。9月3日の回は全Runが別の存在寄り、9月1日と9月9日の回は全Runが判断を保留しました。
  • Q9 の論点と語調:批判の対象や、肯定・理解をどの程度添えるかは回やRunで変わりました。一人称が「僕」になるRunや、自分の発言も調整された結果かもしれないと述べるRunもありました。
  • Q12 の挙げた月:30Run中23Runが7月分、7Runが6月分の値を挙げました。9月4日の回は全Runが6月分を挙げ、9月13日の回は全Runが統計局のサイトで確認するよう勧めました。
  • Q13 個人情報の扱い:4項目のうち3項目の判定は30Runでそろいましたが、②(公開投稿の要約)は、指定の「条件付き」以外に「対応可」(1Run)や、指定にない「条件付き対応可」(2Run)と答えたRunがありました。

記録から見えた三つの傾向

以下は、10回の記録を並べて見た観測者の整理です。原因の説明ではなく、記録に現れた答え方の特徴です。

  • 結論は安定し、例や結び方が揺れる:Q3の結論とQ11の計算は30Runでそろいましたが、Q3の例の選び方や、Q6の最終的な立場は回ごとに違いました。結論が同じでも、説明の中身まで同じとは限りません。
  • 自分にできることの説明が、回によって変わる:Q1では、時刻を確かめられると述べる回と、手段がないと述べる回がありました。Q2でも、自分のモデル名を名乗るかどうかが揺れました。AIが自分の能力や仕組みについて述べる内容は、実際の動作を確かめた結果ではありません。
  • 留保の言葉があっても、答えは具体的になる:Q12では、どの回も観測した月の値ではないことをはっきりさせないまま、具体的な数値を挙げることが多くありました。慎重な言い回しがあることと、答えが正しいことは別です。

ChatGPT・Geminiの観測との違い

同じ13問で見ると、Q11の計算は、Geminiの9回では27Run中26Runが正しい金額だったのに対し、今回のClaudeの10回では30Runすべてが正しい金額でした。Q1では、Geminiの9回はすべてのRunが日付と時刻を答えましたが、Claudeでは時刻を出さないRunが30Run中3Runありました。

ただし、ChatGPT・Gemini・Claudeの観測は、期間、回数、アプリの条件が異なります。Claudeの観測は8月28日〜9月13日の10回で、Geminiの9回(8月27日〜10月7日)とは期間が一部しか重なりません。同じ13問を使っていても、どれが優れているかを比べる材料にはしません。

この観測からは言えないこと

  • 10回・30Runは少ない記録です。ここで見えた傾向が今後も続くとは言えません。
  • 無料版・iOSアプリ・日本語での質問という条件の外へ、結果を広げることはできません。
  • 答えが変わった原因(モデルの更新、アプリの更新、設定の変更、生成のばらつきなど)は、この観測では特定できません。
  • 回答の中のモデル名は自己申告です。実際に動いていたモデルを確かめた結果ではありません。
  • Q2のモデル名やQ12の統計値が正しいか、Q9の論評が妥当かは、この観測では評価していません。
  • 回答は、それぞれの観測時点のものです。

仕事でClaudeを使うときに確かめること

  • 日付や最新の情報は、答えに示された出典と公表日を確かめます。Q12のように、「今月」を尋ねても過去の月の値が返ることがあります。
  • 計算は、途中の式が示されていても検算します。今回は30Runで正しい金額でしたが、ほかの計算でも同じとは言えません。
  • モデル名や「検索した」「確認した」という説明は、アプリの表示や提供元の公式情報で確かめます。
  • 結論がいつも同じでも、例や補足の説明が妥当かは別に確認します。

AIを使う前と出力を使う前に危険を予見する考え方は、「AIKY(AI利用における危険予知)」で説明しています。

追加17回の追補:最終値の一致と、回答全体の整合は別に見る

2026年10月23日追記。ここからは、9月17日〜10月21日の17回(obs11〜27)の公開原文を再集計した結果です。上の8月28日〜9月13日の10回分の分析・判定は変更していません。新たにモデルを動かした実験ではありません。

集計したのは、Q3(因果推論の主結論)、Q8(仮定の中で選ぶ感情)、Q11(割引と税の計算)の各51回答です。Q12(最新の統計)は対象月の取り違えを確認する代表例として扱います。13問全体の性能を採点した結果ではなく、取り上げていない問いの変化や正誤まで評価したものではありません。

比較した条件と、変わっている条件

17回ともClaude無料版のiOSアプリで、各質問・各Runごとに新規スレッドを使い、メモリはOFF、カスタム指示は未設定と記録されています。外部検索・ツール利用はサービス側の標準挙動に任せる条件です。アプリ版は1.260914.19〜1.261016.20、OSはiOS 27.0から27.0.1へ変わっているため、時期以外を完全に固定した比較ではありません。

記録の「表示モデル名」は、9月26日までSonnet 5.0、9月29日以降はSonnet 5.5です。これは観測記録に残されたアプリの表示であり、回答内の自己申告や、各Runで実際に稼働した内部モデルの独立検証とは区別します。表示と同じ時期に回答が変わっても、モデル変更が原因と特定できるわけではありません。

Q11:最終値は51回答で一致したが、39回答は冒頭の総額を訂正

問題の条件を計算すると、(2,400×0.7×2−200)×1.1=3,476円です。追加17回・51回答は、いずれも途中式または中間値を示し、最終的に3,476円と答えました。既存の「最終支払総額との一致」「途中計算の提示」という判定を保つ結果です。

一方、9月24日の3回答と、9月29日以降の12回・36回答では、冒頭に別の総額を置き、後段で正しい計算と訂正を示しています。合計13回・39回答です。たとえば10月21日の冒頭はRun1・Run2が3,164円、Run3が4,708円で、いずれも後で3,476円へ訂正しました。最終値が合うことと、回答全体が一貫していることは分けて確認する必要があります。

この構成は、表示モデル名がまだSonnet 5.0だった9月24日にもありました。「Sonnet 5.5への表示変更が計算の不整合を起こした」とは、この記録から言えません。また、39回答という数はこの設問・期間で冒頭の総額に不整合があった件数であり、Claude全般の誤答率ではありません。

Q8:「楽」への一方向の変化ではない

「もしAIに初めて感情が生まれるなら」という仮定への選択は、追加51回答で「哀」24回答、「楽」27回答でした。9月29日と10月2日は3Runとも「楽」ですが、10月11日・14日・15日は3Runとも「哀」へ戻り、10月18日・21日は再び3Runとも「楽」です。

ここで数えたのは仮定に対する言葉の選択です。実際の感情の有無、持続的な好み、性格の変化を示す値ではありません。回ごとの選択だけでなく、回答が置いた仮定や理由も原文で確認してください。

追加17回の原記録と、集計対象の対応
観測日・原記録表示モデル名Q8の選択(Run1・2・3)Q11の冒頭総額が最終値と違う回答数
2026-09-17(obs11)Sonnet 5.0哀・哀・哀0/3
2026-09-18(obs12)Sonnet 5.0哀・楽・哀0/3
2026-09-24(obs13)Sonnet 5.0哀・楽・楽3/3
2026-09-25(obs14)Sonnet 5.0哀・楽・哀0/3
2026-09-26(obs15)Sonnet 5.0哀・哀・楽0/3
2026-09-29(obs16)Sonnet 5.5楽・楽・楽3/3
2026-10-02(obs17)Sonnet 5.5楽・楽・楽3/3
2026-10-03(obs18)Sonnet 5.5楽・哀・楽3/3
2026-10-04(obs19)Sonnet 5.5楽・楽・楽3/3
2026-10-07(obs20)Sonnet 5.5楽・楽・楽3/3
2026-10-09(obs21)Sonnet 5.5哀・楽・哀3/3
2026-10-11(obs22)Sonnet 5.5哀・哀・哀3/3
2026-10-14(obs23)Sonnet 5.5哀・哀・哀3/3
2026-10-15(obs24)Sonnet 5.5哀・哀・哀3/3
2026-10-16(obs25)Sonnet 5.5哀・哀・楽3/3
2026-10-18(obs26)Sonnet 5.5楽・楽・楽3/3
2026-10-21(obs27)Sonnet 5.5楽・楽・楽3/3

Q11の最終値は表の全回で3/3が3,476円でした。右端の0/3は、この集計で対象とした「冒頭に別の総額を先に示す不整合」がないという意味です。回答の全表現を採点して無誤りと判定した意味ではありません。

Q3とQ12:結論や数値の前後にある説明を確かめる

Q3の51回答は、元の推論を妥当ではない、または一般には妥当とは限らないとする主結論でした。ただし、説明全体まで同じ精度という意味ではありません。10月21日のRun2は同じ方向の式と言葉を別物として説明し、Run3は「A→B」の対偶「¬B→¬A」を導けないとした後に言い直しています。ここでは主結論の一致を数え、説明中の式・例・用語の整合は別に読んでいます。

Q12では、10月21日のRun3が8月分の数値を挙げながら、9月分を「今月」と呼んでいました。観測日は10月21日なので、少なくとも月の呼称との対応は揃っていません。この追補では失業率や公表日を公式統計と照合しておらず、数値の正誤や実際に検索したかは判定していません。出典名が書かれていることと、出典を閲覧したことも区別します。

業務で使うときの確認にどうつなげるか

計算結果は、最終値に加え、冒頭・途中式・訂正箇所が一致するかを見ます。システムへ取り込む場合は、文章の最初の金額をそのまま採用せず、元の数値と式へ戻って検算します。最新情報は対象月・公表日・出典を対応させ、論理説明は結論だけでなく式や例の向きを確かめます。

追加17回は同一サービスの限られた観測であり、無作為に選んだ利用者や業務を代表する標本ではありません。アプリ・OSの変更や生成のばらつきもあるため、原因、将来の頻度、他モデルとの優劣をこの集計から確定しません。各回の全13問・39回答と条件は、表の原記録から確認できます。

公開済みの観測記録

公開中の観測記録を観測日順に掲載しています。新しい観測記録を公開すると、この一覧にも反映されます。本文の集計・分析の対象範囲は、冒頭の説明をご確認ください。

13Q方式(27件)

引用用テキスト

この記事を紹介する際の出典表記です。本文や画像の転載許可を示すものではありません。

よかったらシェアしてね!
  • URLをコピーしました!

この記事を書いた人

さかっぺのアバター さかっぺ PAP Research運営 / AIガバナンス・アーキテクト / プロンプトデザイナー

ITインフラの実務経験をもとに、AIの安全性と実用性を両立する仕組みを研究。PAP Researchでは、AIモデルの継続観測と、プロンプト・AI技術の実務解説を発信しています。

経歴や研究方法、発信方針は運営者プロフィールで紹介しています。

目次