サム・アルトマンがOpenAIの5つの運用原則を提示、安全のための将来的なモデル機能制限の可能性を示唆
GateNews
Gate Newsメッセージ、4月27日 — OpenAIのCEOであるサム・アルトマンは、本人の署名のもとで同社向けの5つの運用原則を発表し、安全性を優先するために、特定の期間においてOpenAIがユーザーのモデル機能へのアクセスを制限する可能性を示唆した。声明の中でアルトマンは、同社が「より高いレジリエンスと引き換えに、ある程度の権限付与を犠牲にする必要がある」という、将来の起こり得るシナリオを述べた。
アルトマンは、重要なAIの意思決定は、AIラボだけで決めるのではなく、民主的なプロセスを通じて行うべきだと強調した。アルトマンは、計算能力の大規模な購入、世界的なデータセンターの建設、垂直統合の取り組みが、技術を誰もが利用できるようにするためにAIコストを下げることを目的としていると述べて、OpenAIの最近の大規模な投資を擁護した。アルトマンは、価値の共有を確実にするために政府が新しい経済モデルを模索する必要があるかもしれないと指摘した。さらに、特定のリスクシナリオも強調した。極めて強力なモデルは、新規の病原体を作り出すための敷居を下げ、社会全体レベルでの対応を必要とする可能性があるのだ。
アルトマンは、GPT-2の重みの公開をめぐってOpenAIが歴史的に躊躇してきた点に触れ、振り返ればその慎重さは過剰だったと認めつつ、それが今日もOpenAIが採用し続けている反復的な展開戦略につながったと述べた。
免責事項：このページの情報は第三者から提供される場合があり、Gateの見解または意見を代表するものではありません。このページに表示される内容は参考情報のみであり、いかなる金融、投資、または法律上の助言を構成するものではありません。Gateは情報の正確性または完全性を保証せず、当該情報の利用に起因するいかなる損失についても責任を負いません。仮想資産への投資は高いリスクを伴い、大きな価格変動の影響を受けます。投資元本の全額を失う可能性があります。関連するリスクを十分に理解したうえで、ご自身の財務状況およびリスク許容度に基づき慎重に判断してください。詳細は免責事項をご参照ください。
関連記事
コメント
0/400
ABigHeart
· 32分前
Altmanは、重要なAIの意思決定はAI研究所だけでなく民主的なプロセスを通じて行われるべきだと強調した。彼は、OpenAIが最近行った大規模な計算能力の調達、グローバルなデータセンターの構築、縦割りの統合に関する努力を擁護し、その目的はAIのコストを削減し、この技術をすべての人に利用可能にすることだと述べた。Altmanは、政府は価値の共有を確保するために新しい経済モデルを模索する必要があるかもしれないと指摘した。