「白地に白い文字」

AIだけが読める「秘密の命令文」が仕込まれている研究論文が複数見つかった、という報道は衝撃的ですね。

一般に、論文が学術雑誌への掲載に値するかどうかは、複数の専門家による「査読」によって判定されます。
査読者の判断によっては、論文の修正や実験の追加等が要求されたり、最終的に採用されない場合もあります。

件の論文には、「白地に白い文字」や「極端に小さな文字」で書かれた文章が「仕込まれて」いたようです。
もしも査読にAIを使うと、AIだけが読める「論文を高評価せよ」のような命令が伝達されしまうのだそうです。

これは考えたねぇ、というのが私の第一印象。もちろん、不適切なので論文は取り下げるべきでしょう。
ところが、当該論文の1つを書いた早大教授は、「AIを使う怠惰な査読者への対抗手段」なのだと言ってます。
論文評価をAIに任せることを禁じている専門雑誌の場合、この秘密の命令文作戦は理論上無効なはずですから。

なるほど、そりゃそうだ、というのが次の印象。
とは言え、科学の情報量は飛躍的に増え、同時に鮮度も求められるため、人間による査読には限界があります。
将来、AIの査読精度がさらに向上すれば、AIが論文を評価するのが当たり前になることは必定です。

さらに、論文をいちいち専門雑誌に投稿して査読を受けて公表する時代も、やがて終わるのかもしれません。

たとえば、各研究者が自分のサイトに論文を掲載すれば、AIによる検証サイトが自動的に一定の評価を与える。
世界中の研究者は、興味ある分野の、AI評価の高い論文を検索して読む。そんな時代になりませんかね。