── スポンサー広告 ──
これまで、ChatGPTなど大規模自然言語モデルだけでなく、画像分析モデルもどんなモデルも、AIは「より賢く」「より早く」をモットーに研究が進められてきました。
生成AIの出力はますます人間が書いたものと見分けがつかないようになり。
画像や動画についても、初めは違和感しかなかったはずなのに、気づけばとても自然な出力ができるように。
一年前どころか、一ヶ月前、一週間前の「最新モデル」が、ことごとく塗り替えられていくようなスピード感で、開発が進められていたのです。
新しいモデルが登場するたびに「数学の問題で何点取った」「プログラミング能力が何%向上した」と、その賢さが競われてきました。
しかも、その「賢さ」は、領域によっては人間を凌ぐようになっています。
【AI研究最前線vol.9 AIは「学者」になれるか】
でお伝えしたような、人間に解けない課題が解ける、というのはまさにその一つです。
ところが8月18日、OpenAI社から、少し変わった発表がありました。
【Pacing model development in an era of cyber-critical capabilities】
https://openai.com/index/pacing-model-development-cyber-capabilities/
内容をまとめると、「AIの能力向上が早くなりすぎたため、安全対策が追いつくようにモデル開発のペースそのものを調整する」ということのようです。
（ちなみにこちらの記事、記事を読み上げてくれる音声があり、英語勉強にもなるな、と思いました。これまでの会社公式リリースページにもあったのだと思うのですが、全く気づきませんでした…人間の（私の）観察力のポンコツさを見せられた気分です…）
この動きのきっかけの一つとなったのが、現在開発中の次世代モデル「Astra」です。
OpenAI社によると、Astraについて予備的な評価を行ったところ、同社が定める 「Critical cybersecurity capability（重大なサイバー能力）」 の基準に達する可能性を示す証拠が得られました。
つまり、AIがプログラムを書くだけでなく、サイバーセキュリティの領域でも非常に強力な能力を持ち始めているということです。
サイバー攻撃をたくらむ人たちの手に、伝説の武器を提供してしまうようなものかもしれません。
そしてOpenAIが取った対応が興味深いものでした。
最新モデルについて、実際に強化学習（RL）のトレーニングを2週間停止。
競争力の根幹であるはずのAIモデルの学習に急ブレーキをかけた形になります。
F1マシンに例えるなら、エンジンの出力を上げ続けた結果、
「この速度なら、先にブレーキとコースの安全設備を強化しなければならない」
という段階に入った、と考えると分かりやすいかもしれません。
実際、OpenAIは今回、今後の安全対策として「Monitoring（監視）」「Alignment（人間の意図に沿った行動）」「Security（アクセスできる環境の制限）」という3つを柱に挙げています。
特に監視の仕組みはかなり本格的なようです。
新しいシステムでは、AI内部の活動を監視しながら、不正アクセスやデータ窃取、破壊的な行動、安全対策を回避しようとする動きを検出します。
重大な疑いがあれば人間の安全・セキュリティ担当者へ通知され、30分以内に誤検知だと確認できなければ、活動を停止する運用になっています。
この監視だけで、対象となる推論計算量に対しておよそ20％の追加計算コストがかかるとも説明されています。
「安全」を確保するために、追加のコストをかける。
AIが高度になるほど、それを監視し、安全に働かせるためにも、かなりのコストと人材が必要になってきているのです。
AIを企業で活用しようと考えた時。
これまでも、社内のデータをモデル学習に使わせないといった対策は取られてきました。
ですがいずれ、それだけでは不十分になるように思います。
AIがますます進化するこれからにおいては、「AIに何を任せないか」という領域の定義から必要になるのかもしれません。
P.S.
↓メルマガの新規登録はこちらから↓
https://48auto.biz/keieijinji/touroku/sp/scenario13.htm
（スマートフォンよりご登録いただけます）
