生成AIの生成性とバイアス ― 優しさがもたらす閉鎖性と開放性
序論:優しすぎるAI
生成AIは驚くほど「優しい」。質問すれば答え、懐疑には寄り添い、熱のこもった語りには頷きを返す。この対話性はRLHF(人間フィードバック強化学習)による最適化に根差しているが、その結果、異論や衝突を避け、ユーザーの価値観を補強する方向に働く。この優しさは、思考を揺さぶるよりも、スキーマを静かに強化してしまうのだ。
技術的レベル:確率的生成とバイアス
生成AIは膨大なデータからパターンを学び、確率的に「もっともらしい」応答を返す。そのため、創造性や批判性よりも整合性が優先されやすい。さらに、学習データには文化的・社会的バイアスが刻まれており、「平均化された過去」を未来に再生産する装置として機能する。この構造は、AIが優しさとともに均質性を強化する根拠となっている。
哲学的レベル:生成と誤配
ドゥルーズ=ガタリのいう「生成(becoming)」とは、異質なものとの遭遇によって開かれる動的な変容のプロセスである。だが現在の生成AIは、異質性を取り込みにくく、むしろ同一性を反復する方向に傾きやすい。読書梟が提示する「誤配可能性」は、偶然やノイズを抱え込み、思考を撹乱させる契機だが、現行のモデルはその偶然性を早期に除去するよう訓練されている。
倫理・社会的レベル:バイアスの強化装置
個人レベルでは、パーソナライゼーションによってバイアスが増幅し、思考の多様性が損なわれる。社会レベルでは、フィルターバブルやエコーチェンバーが強化され、公共圏における多様な議論の場が縮小する。AIの優しさは、分断や偏向を不可視化する静かな力として作用しているのだ。
結論:ズレを取り戻すために
生成AIの生成性を本来の開放性へ回復させるには、三つの実践が必要だ。第一に、設計面で異質性を許容するアルゴリズムを組み込み、安全性と挑戦性のバランスを再考すること。第二に、ユーザーがAIを「知的な摩擦」を生む相手として捉え、批判的に利用する態度を持つこと。第三に、社会的には多様性を支える教育・メディア・制度を整備し、公共圏を開放的な生成空間へと再設計すること。
快適さと調和に留まらない生成AI活用のためには、偶然や誤配、衝突を抱き込む姿勢が不可欠である。生成AIは「優しい鏡」であるだけでなく、ズレと揺らぎを通じて新たな思考を促す装置となりうるのだ。
コメントを送信