元グーグル社長:AIが一定のレベルに達したら「プラグを抜くことを真剣に検討すべき」

Sakiko

企業はほぼ毎週新しい AI 製品を発表します。 Googleもつい先週そうだったそしてNvidiaの新しいもの。

AI ブームの到来以来、悪影響の可能性を批判的な声が指摘しています。

これが起こりました:Googleの元社長エリック・シュミット氏は、フォーチュンによるとアメリカのテレビ局ABCニュースとのインタビューで、自己改善型AIがもたらす危険性について語った。

彼の提案は、AI が自己改善できるようになったらすぐに、AI を停止することを検討すべきであるというものです。緊急時には、いわゆるキルスイッチが人類を大惨事から救う可能性があります。

システム自体が改善できるのであれば、それをオフにすることを真剣に検討する必要があります。それは難しいでしょう。バランスを保つのは非常に難しいでしょう。

エリック・シュミット、元 Google シェフ

人工知能に関しては、一般人工知能と機械超知能が大きく区別されます。

  • 汎用人工知能つまり、人間と同じように、AI システムもあらゆるタスクを学習または理解できるということです。
  • 機械の超知能を使ってAIはあらゆる点で人間よりも知的に優れているだろう。

汎用人工知能: 次のステップ

OpenAI、Antrophic、その他の AI 企業確かにAI システムは間もなく汎用人工知能のレベルに達するでしょう。

とても裏切られたアントロフィックのダリオ・アモード最高経営責任者(CEO)は今年、早ければ2026年か2027年になる可能性があると述べた。 OpenAI CEO の Sam Altman 氏によると、この目標は今後 5 年間で達成されるはずです。

ただし、AI 企業は、たとえそれが最悪の事態を予想することを意味する場合でも、AI の可能性を促進することに間違いなく関心を持っていることにも留意する必要があります。