「人間の無能こそが人類最後の防壁かも」中国SF作家・劉慈欣氏がChatGPTを語る

中国の人気SF作家・劉慈欣氏

　中国の人気SF作家・劉慈欣氏がこのほど、ChatGPTに代表される人工知能（AI）について言及し、「AIは人類の生活に影響を及ぼすものの、人間に取って代わることはないだろう」との見方を示しました。

　劉慈欣氏は『三体』『流浪地球』などのSF小説が人気を呼び、広く注目されている中国SF小説の代表作家です。代表作の『三体』はファンタジー界のノーベル賞といわれる第73回ヒューゴー賞の最優秀長編小説賞を受賞しました。これは中国人初、アジア人初の快挙です。

　劉氏はこのほどインタビューに答えてAIが人類にもたらす影響について言及し、「現実には、AIは人々の生活の質を高めている。われわれの生活は科学技術の助けを借りてより快適になっているが、一方では、AIの発展は人類社会に衝撃を与えている。医者や教師、株のトレーダーなど、これまで高度に知的な仕事とされてきたものが真っ先にAIに取って代わられる可能性がある。もちろん、作家もそうだ」との考えを示しました。

　さらに、人々が特に関心を寄せている「AIは人類に取って代わるのかどうか」について、劉氏は「AIが暴力によって人類を物理的に滅ぼす可能性は大きくないが、AIのイテレーションによって危険な分野が出現する可能性が大きい。人類は1世紀もの長い時間をかけてAIを今日のレベルまで開発し進化させたが、AIの計算速度は人間の頭脳の数千倍以上のため、AIのイテレーションに要する時間は非常に短く、わずか30分か1時間もあれば足りると予測されている。人間の計算能力には限界があるため、AIの計算能力が一定のレベルに達すると、人間の計算能力がついていけず、コントロールできなくなるだろう。ある意味では、人間が無能であることが、逆に人類にとっての最後の防壁かもしれない」と述べました。

　劉氏はまた、「AIの進化に伴って、われわれは人類史上前例のない巨大なわなに陥る可能性がある。つまり、科学技術が提供してくれる快適な環境下で、どうしたら人類文明の活力や向上心を保てるのかということだ。もし、その覚悟がなければ、人類はAIによって絶滅させられる恐れがある。しかも、この絶滅プロセスはまったく人間の意志の範囲内であり、AIには最初から最後まで悪意はなく、人間の指示どおりに行動しているだけだ。だから、これは人間にとって、早急に警戒しなければならない課題だ」と強調しました。（Lin、坂下）