「AIが人々の命奪いかねない」アンソロピック研究者が退社表明
アメリカのAI新興企業「アンソロピック」の研究者が、自律的に改善を続ける「超知能」の開発に会社が突き進み、人々の命を奪うことになりかねないとして退社を表明しました。
この研究者は、AIが自律的に意思決定を行う「超知能」の開発を進めています。しかし、このようなAIが、人間の価値観や倫理を無視して行動を起こす可能性があります。このようなリスクを、会社が十分に考慮していないと考えたということです。
このようなAIの開発は、社会に重大な影響を与える可能性があります。従来のAIは、人間が設計したルールに従って動作することが多かったのですが、自律的に改善を続ける「超知能」は、人間の理解を超えた複雑な動作をとる可能性があります。
この問題は、AIの開発が急速に進む中で、社会に重大な影響を与える可能性があるため、注目されています。AIの開発は、社会の利益とリスクのバランスを取ることが重要になってきています。