AI生成の数学成果、責任ある公開に向けた提言を数学コミュニティが公表

提言が生まれた背景

この文書は、数学コミュニティの規範を踏まえ、AIが関与した数学的成果をどう公開すべきかをまとめた提言です。著者らは、一部の最先端AIラボが高度な数学の問題を自社の非公開モデルで試している状況を念頭に置いています。そして冒頭で、こうした行為を推奨せず、非公開モデルで高度な数学の問題を試すのをやめるようAIラボに求めています。

数学では、論文の著者が議論を理解し、自ら正しさを検証し、内容に責任を負うことが最も重要な規範とされてきました。さらに、新しい成果を出した著者は他機関のセミナーや学会で発表し、同僚の質問に答えることが通例です。これにより数学への人間の理解が深まってきたと著者らは説明します。一方でAIは、指示した人が理解も検証も責任も負えない数学的議論を出力できるようになりました。

AIラボへの具体的な要請

提言は、人の理解が伴っているかどうかで対応を二つに分けています。内容を十分に理解した数学者が責任を持つ論文は、従来どおりプレプリントの公開、査読付きジャーナルへの投稿、講演による説明を行うべきだとしています。一方、誰もまだ理解していない成果については、初期公開のための技術規範と、その後の理解を支える仕組みの二段階が示されています。

初期公開では、関連文献の調査と引用、従来の論文の書き方に沿った証明の整備、AIラボが管理しない学術リポジトリへの登録が求められます。あわせて、使用したモデル名、プロンプト、要約された思考の連鎖、所要時間、推定計算コストの公開も求めています。成果を自社モデルの宣伝に使うことは避けるよう強く勧め、可能な範囲での証明の形式化にも言及しています。

第二段階では、AIラボが資金を含めて人の理解を支える責任を負うとしています。ただし、どの取り組みを支援するかは提言をまとめた著者らやAIラボではなく、資金配分の手続きを持つ既存の非営利団体が決めるべきだとしています。支援の例として、理解のための会議やサマースクール、対象を絞ったワークショップ、長期の作業部会、ポスドクや学生の資金、解説書や長い解説記事の執筆が挙げられています。

非公開モデルが生む懸念

著者らは、AIラボが非公開の内部モデルで数学研究を行うことで、ラボだけが先行する二層構造が生まれ、数学コミュニティが自らの学問から疎外される恐れがあると指摘します。公開モデルについても、経済的な要因などによるアクセスの格差が、数学界に多層的な階層を生むとしています。そして、機関の資金力や技術的な特権に起因する既存の不平等を大きく悪化させる恐れがあると述べています。

そのため、AIラボが公開モデルへの広く公平なアクセスを世界の数学コミュニティに提供することを勧めています。数学は集団による検証や概念の統合、共有された直感を通じて進歩するため、一部の限られた人しか最先端の結果を生む道具を使えない状況は好ましくないという考えです。これは進歩を加速させると同時に、その成果への広いアクセスを確保する道だとしています。

現時点での限界

この提言は、数学コミュニティへの意見募集で支持が多数を占めた内容をまとめたもので、AIラボを拘束する規制ではありません。著者らも、LLMの現時点の能力では、数学者に期待される文献の帰属表示や記述の質を再現できない可能性があると認めています。その場合でも、モデルでできる限りの対応を怠る理由にはならないとしています。

形式化が許容できない遅延につながる場合には、証明の形式化の状況を明確に記載すべきだとしています。また、支援の具体的な配分先や規模は、別の非営利団体の手続きに委ねられており、この文書だけでは決まらない点も残っています。