ChatGPT-4の何が問題なのか。
一番の問題点は“開発が急ピッチで進み、話しかけてくれる相手（AI）が人間をはるかに超えるほど優れた頭脳を持ってしまった場合、人間がコントロールできなくなってしまったり、人類を敵視して滅ぼそうとするリスクが無視できなくなった”という点にある。
AIには推測する力、創造する力が乏しく、感情、自我などはない。そうした人間の本質に当たるような部分をAIが獲得するのは難しいと思っている。
しかし、アルトマンCEOは「AIが人類を滅亡させる可能性がある」といった意見を否定できないと言っている。
なぜなら、ChatGPT-4は人間の脳神経細胞の仕組み模して造られたニューラルネットワークを多層に結合させて使う深層学習と、人間によるフィードバックを利用した強化学習（RLHF）を組み合わせた方法が大きな成果を収めはじめている。
膨大なデータを与えてそれをひたすら学習させることを続けていたら、いつかAIは、人類が理解できていない事（推測することや、ひらめき、心の動き、自我などについて）を数字化、数式化してしまうかもしれない。このことによりあるAIが自我を獲得してしまい、もしそれが悪意に満ちたものであった場合、世界は一瞬にして危機に陥ってしまう可能性がある。
AI開発によるリスクは、たとえば、遺伝子組み換え実験によるバイオハザードのような容易に想像できるようなリスクではない。規制を求める世論は簡単には高まらず、各国政府の動きは鈍いのが怖いところである。
対話型AIサービス「チャットGPT」を開発したアメリカのオープンAI社のアルトマンCEOが総理官邸で岸田総理と面会した。
複数の関係者によりますと、岸田総理との面会でアルトマンCEOは、日本のマーケットを重視しているという意向を伝えたうえで、チャットGPTの活用方法やルール整備のあり方などをめぐって意見交換したとみられる。
また、アルトマン氏が自民党本部を訪ね、党の部会に出席。会議は非公開だったが、デジタル社会推進本部長を務める平井卓也元デジタル相によると、アルトマン氏は日本の技術者と交流ができるような研究開発の拠点を日本に設立する意向を示した。
アルトマンCEOは「岸田総理とは素晴らしい話し合いができました。我々はAI技術の利点と、欠点をどのように軽減していくのかについて意見交換しました。また、日本でAI技術が採用されていることは素晴らしく、未来に興奮しているとも伝えました」と述べている。
日本政府の現状では河野デジタル大臣が対話型AIについて、国会答弁作成などの公務員の業務に活用することに前向きな考えを示している。
一方で、個人情報が流出する懸念などから、欧米では規制の動きが強まっていて、日本でも国際的なルール作りに参画するよう求める声が上がっているが具体的対策についての話はあったのか心配だ。
