イスラエルの研究、自己生成データによるAI訓練の未来を示唆

ペサハ・ベンソン、オメル・ノボセルスキー • 2026年11月5日

エルサレム、2026年11月5日（TPS-IL） — テルアビブ大学とスタンフォード大学の研究者らは、人工知能（AI）モデルが実世界のデータによる訓練を受けずに一般的な学習能力を発展させられることを実証した。これは、高品質な訓練素材がますます不足する中で、AI開発の新たな道を切り開く可能性がある。

この発見は、業界最大の制約の一つである人間が生成する訓練データの供給問題の解決に役立つ可能性がある。

「私たちは、テキスト、画像、音声、音楽、DNA、コードについて一度も訓練することなく、モデルが実際のそれらを予測する精度を着実に向上させられることを示している」と、ヨアブ・レヴィン博士はイスラエル通信社（TPS-IL）に語った。オンラインの研究リポジトリであるarXivにプレプリントとして公開されたこの研究は、まだ査読を受けていない。

この研究はテルアビブ大学コンピュータサイエンス・AI学部のレヴィン氏が指導し、クフィル・ドレフ博士のポスドク研究の一環として、スタンフォード大学の研究者らと共同で実施された。

書籍、ウェブサイト、画像、録音の膨大なコレクションから学習する従来のAIシステムとは異なり、この新しい手法はゼロから始まり共に学習する二つのネットワークを使用する。一方は記号の配列を生成する短いコンピュータプログラムを生成し、もう一方は次の記号を予測することを学習する。最初のネットワークは、自らの課題がもう一方のモデルの向上にどれほど役立ったかについてのフィードバックを受け取り、より有用な課題を生成することを徐々に学習していく。

「通常の前提では、AIには計算資源とデータが必要とされる。私たちはデータなしで、計算資源のみに基づいてどこまで到達できるかを問うている」とレヴィン氏はTPS-ILに語った。

同氏は、このアプローチを、人間の対局を学習するのではなく自己対局を通じてチェスや囲碁を学習したAlphaZeroになぞらえた。研究者らは、学習モデル自身の進捗が成功の指標として機能し、もう一方のネットワークがますます有用な課題を生成するよう導くことができることを発見した。

このスキルが人工的な訓練を超えて転移するかどうかを検証するため、研究者らは、モデルがこれまでに遭遇したことのない実世界の素材を用いて評価を行った。より多くの計算資源が追加されるにつれて、複数の領域においてその予測能力は向上した。また、追加の訓練を受けることなく、テスト中に提示された例から規則性を推論することもできた。

研究者らはまた、システムが等比数列、フィボナッチ風のパターン、二次数列や三次数列などの数学的構造を独自に生成したことも発見した。レヴィン氏によると、同じ空間からランダムにサンプリングされた1億6400万個のプログラムにはこれらは全く現れず、システムが学習パートナーの予測向上に役立つという理由でこれらを発見したことが示唆されるという。

データのボトルネックを超えて

この手法は、データが希少であるか、取得に費用がかかる分野において、訓練素材の新たな供給源を提供する可能性がある。

「これは、人間が生成したテキストやコードにおいて多くの人が予想するように、高品質なデータがボトルネックとなる場合に重要であり、データが希少または高価な分野ではなおさらだ」とレヴィン氏はTPS-ILに語った。

また、従来のAI訓練を行う前の予備的な訓練段階としても機能する可能性がある。実験において研究者らは、自己生成された課題に触れたモデルは、実世界のデータを与えられた際により速く学習することを発見した。

しかし、重大な限界もある。実験で扱われたモデルのパラメータ数は2500万未満であり、これは現在の最大のAIシステムよりも1万倍以上小さい。その規模で結果が維持されるかどうかは不明なままだ。レヴィン氏は、研究者らが現在、この手法を大幅に大きなモデルに拡張できるかどうかを調査していると述べた。

また、自己主導型の学習は世界に関する事実に基づく知識を代替することはできない。システムは計算を通じて数学的パターンを発見することはできるが、歴史的事実を独自に確立したり、物理的な現実を観察することなくそれについて学習したりすることはできない。

「自己対局は一般的な構造、つまり多くの種類のデータに共通するパターンを教えるが、誰がハムレットを書いたかといった私たちの世界に関する事実は教えない」とレヴィン氏はTPS-ILに語った。「それらは依然として実際のデータから得られなければならないため、これらの側面において、それは人間のデータを代替するのではなく補完するものだ」

研究者らはまた、AIシステムが自らの誤りを繰り返し、増幅させるリスクについても取り組んだ。

「私たちの学習モデルは、プログラムが実際に実行されたときに出力する内容に基づいて訓練を行う。データは各プログラムが計算したそのものなので、強化されるようなハルシネーション（幻覚）は存在しない」とレヴィン氏はTPS-ILに説明した。「私たちが直面するリスクは、プログラム作成者が狭いニッチにはまり込んだり、以前に見つけたものを忘れたり、報酬を不正に操作したりすることだ。私たちは、真の学習の進捗に報酬を与え、多様なプログラムのアーカイブを保持し、以前のプログラムが忘れられないよう再実行し、生成器をプログラム全体の単純な初期分布に近づけておくことで、これらを防いでいる」

レヴィン氏によると、次の大きな節目は、このアプローチが数十億のパラメータを持つモデルで機能すること、そして自己生成された訓練が測定可能な量の従来の訓練データを代替できることを実証することだという。研究者らは最終的に、AIモデルが利用可能な実世界の訓練素材を使い果たした後でも、自己対局を通じて向上し続けられるかどうかを突き止めたいと考えている。