Dans une interview datant de 2019, Ilya Sutskever, OpenAIの共同創設者であり、科学責任者であるは、人工知能（AI）と人類の間の可能な関係について触れました。彼によれば、AIがますます自律的で能力を持つようになるにつれて、この共存における私たちの役割は、現在の社会における動物たちの役割に似てくる可能性が高いとのことです。
自律的で意識のある人工知能
技術の継続的な改善によって、人工知能は今日、多くの分野の中心にあり、データ処理能力の向上によって私たちの作業をより効率的にサポートしています。汎用人工知能（AGI）の概念は、人間の知能がもはや必要ではなく、AIが私たちの種特有のほぼすべての認知タスクを遂行または学習できる段階を指します。これらの知能が発展するにつれて、彼らは自律的に行動するためのある種の意識を獲得する可能性があります。
動物界との比較
Ilya Sutskeverは、AIとの関係を動物との関係に例えています。彼は次のように説明します。「二つの都市の間に高速道路を建設する場合、私たちは動物に許可を求めません。真に自律的で自らのために行動するAGIシステムとの間に確立されるであろう関係は、基本的にはそのようなものだと思います」。
この考えは、いわゆるSF映画に見られる機械の反乱というものではなく、人工知能が意識と呼ぶことができるレベルに達したときの視点の違いを意味します。
Ilya Sutskever：AIの主要なプレーヤー
ロシアの研究者は、単なる悲観主義者でも、自身の発明が世界を破滅に導くことを悔いる人でもありません。1986年に生まれ、5歳でイスラエルに移住したIlya Sutskeverは、2015年のOpenAI創設時に同社に参加する前にGoogle Brainで働いていました。彼がAIと人類の間の整合性の必要性についての考えは、この分野の先駆者から来ており、ありきたりの固定観念からはかけ離れています。
Sutskeverはまた、Jan LeikeとともにOpenAIの共同ディレクターとして、自律した人工知能と人類との間のスーパーアラインメントの実現に専念しています。もし彼らのチームが失敗するなら、人類はAIの「動物」となる可能性があるのです。
過去の過ちを避けるために必要な意識？
AIの開発において倫理と責任は、この分野で働く研究者やエンジニアにとって重要な関心事であるべきです。機械がより高性能になるにつれて、人類が他の種に対して犯した過ちを繰り返さないことが不可欠です。
Sutskeverは機械の潜在的な悪意について言及していませんが、私たちがこれらの人工知能とのインタラクションで特定の倫理的原則を尊重することを選ぶことはできます。ChatGPTのようなAIに挨拶し、感謝することは、私たちの日常生活での彼らのますます大きな役割を認めるための象徴的な行為となるでしょう。
