chatGPTマスターを目指して vol.27 慎重になったAI

chatGPTの新しいモデルでは、AIがより「慎重に」なったようです。慎重になると何が嬉しいのか？メリットを見てみました。

2024年9月30日 2024年9月29日

2024年9月12日、chatGPTを展開するOpenAI社が新しいモデルを公開しました。

その名もOpenAI o1。

何が新しくなったかというと、平たく言えば、より「慎重になった」モデルの様です。

【プレスリリース Introducing OpenAI o1-preview】

私たち人間の場合、言葉を口に出す前に頭の中で反芻して吟味してから話し出す人もいれば、思ったことを思ったままに話す人もいます。

あるいは、場面によって使い分ける人の方が多いかもしれません。

友達と話すときは深く考えず話し。

上司と話すときは一度考えてから発言する。

人によって程度はありますが、常に何も考えることなく思ったままに話す、という方は少数派なのではないでしょうか。

ですがこれまでのAIは違いました。

まさに「思いついたことをそのままに話す」仕組みが取られていたのです。

入力された語句に対して、確率的にそれらしい結果を出力する。

そこに「この内容は正しいだろうか？」「文法は正しいだろうか？」「言ってはいけないことが含まれていないだろうか？」といった自省は一切含まれていません。

「あれ？なんか日本語変だった？」

まるで、親友と話しているときの私みたいです。

新しいモデルOpenAI o1は、これまでも持っていた推論能力を活用して「この回答は安全な回答であるか？」を判断してから回答するモデルです。

犯罪などにつながる質問（例えばハッキング方法など）については答えてはいけない、という開発者からの教えがあるにはあるのですが、特にchatGPTが登場した直後は、様々な方法で抜け道が発見されていました。

ちなみにそのような「安全ルールの回避策」を「脱獄」と呼ぶそうです。

物騒な名前です。

今回、その「脱獄」をいかに防ぐことができるか？というテストに対して、OpenAI o1は高いスコアを出すことができたとのことです。

これまでの最新モデルであったGPT-4oはかなり低い点数であったことを考えると、大躍進です。

OpenAI o1が備える安全性への仕組みによって、より多くの場面での活用が見込まれます。

さらに「慎重になる」ことによって科学、プログラミングのコードを書くこと、数学などの複雑なタスクにも有効性が高い可能性もあるということで、これまでAIが苦手としていた分野が解決されていくのも時間の問題かもしれません。

それにしても、こんなに短いスパンで新しいモデルを開発できるOpenAI社、さすがです。。。

P.S.

↓メルマガの新規登録はこちらから↓

（スマートフォンよりご登録いただけます）

大学にてデータサイエンスを学ぶ傍ら、多くの人にデータ分析の面白さを伝えたいと日々奮闘中。