
- ChatGPT利用で成果物の質と論理的整合性が向上し、専門家の回答に近づいた
- 因果推論の訓練は、伝統的なルーブリックでは測れないアイデアの多様性を高めた
- 両方を組み合わせると、質と独創性の両方で相補的な効果が確認された
実験の概要
ボッコーニ大学の研究者らは、OpenAI Economic Researchと共同で、1,000人以上の学部1年生を対象にした無作為化実験を実施した。学生は実際のビジネス課題として、大学のグッズショップ向けのマーケティング提案を作成した。
学生はクラスごとに4群へ無作為に割り付けられ、ChatGPT(GPT-4o)へのアクセスあり・なし、因果推論の訓練あり・なしの組み合わせで比較された。因果推論は「原因と結果を結びつけて、解決策が機能する理由や失敗する条件を説明する」批判的思考の一種で、訓練はAIとは無関係に行われた。
成果物は訓練された評価者が5段階のルーブリックで採点し、さらに自動テキスト分析でアイデアの数や多様性、因果推論の兆候、専門家の回答との類似度が測定された。
ChatGPTの効果
ChatGPTにアクセスできた学生は、5段階評価でほぼ1点高いスコアを得た。回答にはより多くのアイデアが含まれ、論理の筋道が明確で、専門家が書いた推薦文との類似度も高かった。つまり、AI支援によって初心者がよりプロフェッショナルな成果物を作れるようになった。
ただし、学生がChatGPTに課題を丸投げしていたわけではない。学生は何を質問するか決め、応答を評価し、最終提出物に何を含めるかを選択していた。AIはあくまで作業の補助として使われたとみられる。
思考力訓練の効果
因果推論の訓練を受けた学生は、自分のアイデアが機能する理由や失敗しうる条件をより明確に説明できた。しかし、従来型のルーブリックによる採点では、ChatGPT利用ほどのスコア向上は見られなかった。
ところが、テキスト分析からは別の利点が明らかになった。訓練を受けた学生のグループ全体で、アイデアの種類が広がり、他の学生の回答と比較してより独創的なものが増えた。標準的なルーブリックは明確で構造化された回答に高得点を与える一方、他の学生と異なる独自のアイデアを評価し損ねる可能性がある。
組み合わせの相乗効果
ChatGPTへのアクセスと思考力訓練の両方を受けた学生は、それぞれの効果を併せ持っていた。アイデアの多様性は訓練のみの学生と同じ水準で、ルーブリックスコアとアイデア数はChatGPTのみの学生と同程度だった。
さらに、論理的整合性が強く、説明や仮定の疑いを探る兆候も多く見られた。このグループは全測定項目で最も広い改善を示しており、AI活用と思考力訓練が互いに補完し合うことが示唆される。
教育現場への示唆
この実験が示すのは、AIは学生が洗練された成果物を作るのを助けるが、最終的な回答だけを見ても学生が実際に理解していることは分からないという点だ。教育現場では、成果物が評価の中心である限り、AIの影響が大きい時代には評価方法の見直しが必要になる。
従来のルーブリックでは、独創性や複数の視点の検討を適切に評価できない可能性がある。この結果は、単に最も慣用的で洗練された回答だけでなく、独創性や理由付け、複数のアプローチを考慮した成果を評価する重要性を示している。
| 評価の側面 | ChatGPT利用あり | 思考力訓練あり | 両方あり |
|---|---|---|---|
| ルーブリック評価 | ほぼ1点向上 | 有意な変化なし | ChatGPT利用時と同程度 |
| アイデアの多様性 | アイデア数が増加 | 独自のアイデアが増加 | 訓練時と同じ多様性 |
| 論理の説明 | 明確な論理展開 | 理由・失敗条件の説明が明確 | 強い論理的整合性と探究 |
If AI can help students produce polished, expert-like work, then looking only at the final answer tells us less about what a student actually understands.
AIが学生に洗練された専門家のような成果物を作るのを助けるなら、最終的な答えだけを見ても、学生が実際に何を理解しているかは分からなくなる。
今後の見通し
今後、教育現場では最終成果物だけでなく、思考プロセスや独創性を評価する方法の研究が進むとみられる。因果推論訓練の効果が長期的に持続するのか、他のAIモデルや異なる教育環境でも同様の結果が得られるのかを確認する追加研究が待たれる。また、AI利用が学生の独創性に与える影響をより詳細に測る評価手法の発展が、教育政策や教材設計に影響を与える可能性がある。
日本の開発者・IT企業にとっての意味
日本のIT企業や開発者にとって、この実験は生成AIを業務に導入するだけでなく、因果関係を問うレビューや問題設定の訓練を組み合わせることで、成果物の質と独創性を両立できる可能性を示している。また、AIが生成した成果物を受け取る際、最終形だけでなくアイデアの出どころや論理の筋道を検証する仕組みが重要になる。AI支援による品質向上が進むほど、人間の思考力が付加価値の源泉となるため、人材育成や評価制度の設計に直結する示唆と言える。
気になる点
- 学生はChatGPTに課題をそのまま提出させていたのか?
- 実験では、学生は質問を考え、応答を評価し、最終提出物に何を含めるかを選択していた。AIが生成した文章をそのまま使うのではなく、主体的な利用が前提となっていた。
- この結果は日本の教育現場にもそのまま当てはまるのか?
- 対象はボッコーニ大学の学部1年生で、日本の教育環境とは違いがあるため、そのまま一般化はできない。ただし、AI支援と思考力訓練が異なる効果を持つ可能性は示唆的であり、日本での追加検証が望まれる。
- 評価方法はどう変えるべきか?
- 従来のルーブリックでは独創性を十分に捉えられないため、アイデアの多様性や理由付けを評価する工夫が必要だ。実験でも、思考力訓練の効果は自動テキスト分析によってのみ検出された。
用語解説
- 因果推論
- 原因と結果を結びつけて説明する思考法。この実験では、解決策が機能する理由や失敗条件を考える訓練として扱われた。
- ルーブリック
- 課題の評価基準を事前に定めた表。ここでは5段階で学生の成果物を採点するために使われた。
- GPT-4o
- OpenAIが開発したAIモデル。この実験では学生が利用するチャットツールとして提供された。
出典
Better answers, broader thinking: What students gain from ChatGPT and critical-thinking training
https://openai.com/index/what-students-gain-from-chatgpt-critical-thinking-training
AI導入も顧問も、お任せください
何から手をつけるか、どこまでAIに任せるか。自社の業務に合わせて整理し、導入から運用まで伴走します。相談だけでも構いません。
AI導入について相談する