Anthropicは、Claudeが会社のコードの80%を生成する中、AIの自己反復リスクを警告しています

Anthropicによると、Claudeは先週時点で同社のコードの約80%を自動的に生成したとしており、AIシステムが再帰的な自己改善の段階に入ったことを示す重要なサインだという。つまり、モデルは人間の介入なしに次世代のAIシステムを設計できるということを意味する。

Anthropicは、AIの能力が急速に進歩するにつれて、潜在的に制御不能な行動の兆候を監視し、安全対策の仕組みを構築することがますます重要になってきている、とThe Informationは伝えている。
免責事項:本ページの情報には第三者提供の内容が含まれる場合があり、参考目的のみで提供されています。これらはGateの見解や意見を示すものではなく、金融、投資、または法律上の助言を構成するものでもありません。暗号資産取引には高いリスクが伴います。意思決定を行う際には、本ページの情報のみに依存しないでください。詳細については、免責事項をご確認ください。
コメント
0/400
コメントなし