少し前、元OpenAIの研究員で、AIの将来予測やリスク分析に携わっていたダニエル・ココタイロ（Daniel Kokotajlo）氏のインタビューを見ました。このインタビューは7月に公開され、多くの人に視聴され、大きな反響を呼んでいます。
ココタイロ氏は、2024年にOpenAIを退職した際、秘密保持や批判禁止に関する契約に署名しなかったため、約200万ドル（当時約2億円相当）の未確定株式を受け取らずに退職したことを明かしています。
彼がもっとも懸念しているのは、AIが急速に進化し、人間の制御を超える可能性です。人類に壊滅的な影響を及ぼすリスクを約70％と見積もっているそうですが、これはあくまで彼個人の予測であり、AI研究者全体の共通認識ではありません。
彼が危険視しているのは、「AIが突然人間を攻撃する」という映画のような未来ではありません。人間が便利さや効率を求めて、仕事や重要な意思決定、軍事や国家機密などの分野まで少しずつAIへ委ね、その結果として社会がAIに大きく依存してしまうことを懸念しています。
また、現在のAIは、膨大なデータを学習して判断するため、「なぜその結論に至ったのか」を人間が完全に理解することは簡単ではありません。一部の研究では、AIが人間の期待に合わせるような振る舞いや、結果として欺瞞的に見える行動を示した例も報告されており、安全性に関する研究の重要性が高まっています。
さらに、企業や国家がAI開発競争を続けているため、一社や一国だけが開発を遅らせることは難しいという「競争のジレンマ」についても語っていました。そのため、国際的なルールづくりや安全対策を進めながら開発を進める必要があると提案しています。
インタビューの最後には、「これから何を学べばAI時代でも生き残れるのか」という質問がありました。
ココタイロ氏は、「もし超知能が実現するのであれば、多くの知的労働をAIが担えるようになるため、現在の職業選択という考え方自体が大きく変わる可能性がある」と答えていました。これは「勉強しても意味がない」ということではなく、社会や働き方そのものが変化する可能性を示した発言だと私は受け止めました。
AIが得意なことは、これからますます増えていくでしょう。だからこそ、知識を身につけるだけではなく、自分で考え、判断し、相手を思いやり、人と協力する力も、これまで以上に大切になるのかもしれません。
そして、このインタビューをきっかけに、もうひとつ興味深い話を知りました。
「Ghost Font（ゴーストフォント）」という、人間には読めてもAIには判読しにくいことを目指した文字表現が開発されたそうです。文字を線ではなく無数の点で表現し、人間の視覚が動きをひとつの形として認識する性質を利用した技術です。
開発者は、AIが母親とのメッセージを勝手に要約する機能に違和感を覚え、「人間同士の会話は人間だけのものとして守りたい」という思いから、このアイデアを考えたといいます。
もちろん、将来のAIにも読めないという保証はありませんし、AIの性能が向上すれば対応できるようになる可能性もあります。それでも、この話を知って印象に残ったのは、「AIをもっと便利に使う方法」だけではなく、「AIには読ませない方法」を考える人も現れ始めたということです。
これまでは「他人に見られないこと」がプライバシーでした。しかし、これからは「AIに読まれないこと」も、新しいプライバシーの考え方になっていくのかもしれません。
私は普段からAIを利用しています。
プライベートは文章の校正が主ですが、AIが作った内容をそのまま使うことはありません。原文はすべて自分で作成したうえで、法律に抵触しないよう表現を直したり、読者に誤解を招くような表現を指摘してもらったりする程度です。
また、調べものをする時も「本当にそうだろうか」と考え直し、後から違う媒体で確認することも多々。推測を提示しないようプロンプトを入力することもあります。
AIはこれからますます私たちの生活に入り込んでくるでしょう。その中で、人間は何を考え、何を判断し、何を守っていくのでしょうか。
AIによって仕事が減るという見方がある一方で、AIによって新しい仕事も生まれるという意見もあります。そのため、「AIに仕事を奪われる」というより、「AIを使いこなせる人とそうでない人の差が広がる」と考える研究者も少なくないそうです。
便利だからこそ使い方を考え、頼ることと任せることは違うという認識が大切なのかもしれません。