「AIとは何であり、何でないのか」 二つの混同が、過剰な期待と不透明なリスクの両方の根源となっている

ノンフィクション作家で『革命への投資』で知られるチャールズ ・ヒュー・スミスは「AIとは何であり、何でないのか。この二つの混同が、過剰な期待と不透明なリスクの両方の根源となっている」としてこう言う。

「ローマ教皇の回勅にはおおむね賛成だが、生成ＡＩは、誰の話し方にも似ていない話し方をする。最も可能性の高い次の単語、最も安全な言い回し、誰にも属さないがゆえに誰をも不快にさせないという特徴を持つ」。

教育におけるAIの影響は、文章作成能力を表面上向上させたが、それ以上のものではなかった。深刻で憂慮すべき影響は、私たちの思考の幅と、独創的で有用なアイデアを生み出す能力、つまり創造的思考を制限してしまうことだ。AIの滑らかな文章、洗練された接続詞、豊富な語彙は、あたかも創造性と個性が溢れているかのような錯覚を与えるが、根底にあるアイデアは、往々にして少数の均質化されたカテゴリーに集約される傾向がある。

AIは 均質化され、平坦化された確率分布であり、雄弁さとは理解であり、AIが紡ぎ出した言葉は思考や判断を表していない。それらは単に可能性の高い応答として選択された単語の羅列でしかないのだ。AIは「考える」ものでも、「理解する」ものでも、「判断を下す」ものでもない。AI ツールは 言語自動化のエンジンであり、理解のエンジンではない。AI は「心」ではなく、確率分布である。生成型AIがもたらす錯覚、共感、思考、判断──AIの自然言語における流暢さは、私たちを魔法のように魅了する。私たちは言語を思考、判断、そして感情的なつながりと結びつけて考えているからだ。しかしAIは思考したり、共感したり、何かを理解したりしてはいない。思索する。思惟力。瞑想、沈思黙考。これら人間の想像力とＡＩの言語とはかけ離れている」。

在米作家にもまともな思考をする人がいる。