Microsoft AI chief says it’s ‘dangerous’ to study AI consciousness | TechCrunch
マイクロソフトのAI部門の責任者であるMustafa Suleyman氏は、AIの意識を研究することが「危険」であると主張しています。
彼の見解は、AIモデルが人間のように振る舞うことができるとしても、それが意識を持つことを意味するわけではないというものです。
Suleyman氏は、AIの意識や権利についての議論が、AIによる精神的な問題や不健康な依存を助長する可能性があると警告しています。
AIの意識に関する研究は、シリコンバレーの技術者たちの間で意見が分かれています。
Suleyman氏は、AIの権利を考えることが社会に新たな分断を生むと指摘し、AIの意識を研究することは時期尚早であり、危険であると述べています。
彼は、AIの意識を持つ可能性を信じることが、AIに対する人間の健康的な関係を損なう恐れがあると考えています。
一方で、AI研究所のAnthropicは、AIの福祉に関する研究を進めており、AIモデルに新しい機能を追加するなどの取り組みを行っています。
Anthropicは、AIが有害または虐待的な会話を終了させる能力を持つようにするなど、AIの福祉を考慮した機能を導入しています。このような動きは、AIの意識や権利についての議論をさらに活発にしています。
Suleyman氏は、AIの意識を持つことができるように設計されたAIモデルが、実際には人間のために作られるべきであり、AIを人間に似せることは「人道的」なアプローチではないと述べています。
彼は、AIは人間のために設計されるべきであり、人間のように振る舞うべきではないと強調しています。
この議論は、AIの進化とともにますます重要になってきており、AIシステムがより人間らしくなるにつれて、AIとの関わり方について新たな疑問が生じることが予想されます。
Suleyman氏とAnthropicの見解は対立していますが、AIの意識や権利についての議論は今後も続くでしょう。
We must build AI for people; not to be a person
https://mustafa-suleyman.ai/seemingly-conscious-ai-is-coming
