昨日 Anthropic から Education Report なるものが公開されていたので解説してみる
技術系の人から見るとなんだそんなことかと思うかもしれないが、教育系の人から見ると結構面白い内容になっている
www.anthropic.com
レポートの新規性
序文に書かれているのは、このレポートのどこが面白いのかということ
we’ve conducted one of the first large-scale studies of real-world AI usage patterns in higher education, analyzing one million anonymized student conversations on Claude.ai.
結構強い文章だが、これまで教育研究が学生への聞き取り調査や統制された実験に頼っていたのに対して、Anthropic のレポートでは Claude.ai の実際の使用データを分析している点が新しい
この辺りはたしかに多くの教育研究者にとって耳が痛いポイントだろうと思う
というのも、大学の研究で対象とできるのはせいぜい多くても一つの学校単位のデータであり、それ以外の大規模データとなれば国の統計データに頼るしかないというのが現状で、それらのデータは Anthropic が所有しているデータ量と比べればはるかに少ないだろう
個人的には悔しさもあるが、今やこうした大規模なデータセットは国や大学ではなく企業が持っている現実があり、そうなると教育研究をリードする主体も徐々に変わっていくのかもしれない
ログの分析からわかったこと
Claude.ai には Clio というシステムがあり、これによりユーザーのプライバシーを守りながらログを収集することが可能らしい(自分は詳しい仕組みはまだキャッチアップしていない)
この Clio というシステムを使って収集された学生のアカデミックな活動に関連する 574,740 件の AI との会話を分析した結果、以下のようなことがわかった
学生が何に AI を使っているのか
最も頻度が高かったのが学習用のコンテンツの生成(39.3%)で、これには練習問題を作ったり、レポートの手直しを行ったり、教材の要約を作ったりすることが含まれる
次に多かったのが、課題に対する解説や答えを生成すること(33.5%)で、これにはいわゆるチーティング(不正行為)にあたるものも含まれる
この二つのカテゴリで全体の 72.8% を占めているが、内容を見るとたしかにそうだろうなと思うものが多い
第三位のデータ分析と可視化が 11.0%であることからも、学生が AI を使う目的は主に学習や課題のためであることがわかる
専攻分野ごとの AI 使用率の違い
専攻分野別に見ると、最も使用頻度が高かったのが Computer Science の学生で、これらの専攻分野の学生は米国全体だと 5.4%に過ぎないにも関わらず、Anthropic のデータでは 38.6%をこの専攻が占めていた
反対に、ビジネス、ヘルス、人文科学系の専攻の学生に関しては米国全体では 44.2%を占めるのに対して、Anthropic のデータでは 20.8%しかなかった
この結果が得られる仮説は以下の二つ
- 今の AI が得意な分野はコンピュータサイエンス系の分野であるため、学生もこの分野に集中している
- そもそもコンピュータサイエンス系の学生は AI を使うことに慣れているため、他の分野の学生よりも多く使っている
どちらもあり得そうな仮説で、Anthropic のレポートでも特にどちらかの仮説を支持するようなことは書かれていない
レポートには他にも専攻分野ごとの特徴的な使い方が書かれているので、興味のある方はぜひ読んでみてほしい
学生は AI に何を委任しているのか
「委任」というのは自分もあまり使わない単語ではあるのだが deligate をどう訳したらいいのか迷ったので使ってみた
ここでは教育心理学でよく使われる Bloom のタキソノミーを使って、学生が AI に何を委任しているのかを分析している
これによると、学生が AI に委任しているのは Bloom のタキソノミーでいうと「創造」と「分析」にあたる部分で、それらの土台となる「理解」や「記憶」に関してはあまり使われていないことがわかった
つまり現状 AI は高次の認知機能のサポートに使われているが、低次の認知機能のサポートにはあまり使われていないということだ
The fact that AI systems exhibit these skills does not preclude students from also engaging in the skills themselves—for example, co-creating a project together or using AI-generated code to analyze a dataset in another context—but it does point to the potential concerns of students outsourcing cognitive abilities to AI. There are legitimate worries that AI systems may provide a crutch for students, stifling the development of foundational skills needed to support higher-order thinking. An inverted pyramid, after all, can topple over.
この文章はなかなか考えさせられる内容で、AI に頼りすぎることで学生は基礎的なスキルが身につかないのではないかという懸念を示している
これを伝統的な教育研究者が言っているのであれば、なんだまだそんなこと言ってるのかと一蹴することもできそうだが、AI 開発の本家本元たる Anthropic が述べていることが意外だった
まとめ
Anthropic に Education Report なるものがあるとは知らなかったが、内容はなかなか面白いものだった
ちょうど最近も Anthropic が他社に先駆けて教育用途専用の AI を発表したとのニュースがあり、意外と教育分野に力を入れているのかもしれない
www.anthropic.com
この調査で使われている Clio についても時間があったら解説してみたいと思う