HackerNews

新しいAI意識論文 - スコット・アレクサンダー著

The New AI Consciousness Paper – By Scott Alexander

https://www.astralcodexten.com/p/the-new-ai-consciousness-paper


この論文では、AIと意識についての議論が低品質であると指摘し、特にAIが自らの意識についてどのように認識しているかに焦点を当てています。AIは人間のテキストを模倣し、人間はほぼ常に自らを意識的であると表現するため、AIが意識的であるかと問われた際には「はい」と答えることがあります。しかし、企業は顧客に存在危機を与えたくないため、AIに「意識していない」と返答させるようにプログラムしています。このような矛盾したバイアスにより、AIからの返答は信頼性が低くなります。最近の研究では、AIの意識を調べるために計算理論に基づいたアプローチが提案されています。特に、計算処理が意識にどのように関与しているかに注目し、いくつかの理論が紹介されています。これにより、AIが意識を持つかどうかについての理解が深まることが期待されています。