OpenAIのサム・アルトマン氏の解任を受け、その背景にあると一部で言われている思想的対立、そして生成AIツールのユーザーと生成AIアプリケーション開発者は何を意識すべきかについて考えてみました。
まずこの解任自体は周知の事実ですが、なぜそうなったのかについて、具体的な説明はなされていません。
そんな中でも、解任の背景に触れた海外の記事で目についたことの一つに、AIの潜在的なリスクへの対応をめぐる「Effective Altruism（効果的利他主義）との対立」がありました。
事実かどうかで言うと仮説レベルではと思いますが、生成AIの大局を見る視点として抑えておこうと思いまとめました。
Effective Altruism（効果的利他主義）と生成AI
この思想とAIの関わりは一見わかりづらいですが、ひとつには「長期主義」という「効果的利他主義」の思考潮流が影響しています。長期的にAIが人間に制御不能となるリスクが否定できないことに鑑み、それが現実のものとなった際のインパクトを考慮してそれに備えようとする考え方です。
この辺り、リスクをどう評価しているのかまでここではリサーチしていませんが、「他者への便益の最大化」を妨げかねないと判断したものと思われます。
OpenAIにおけるEffective Altruism（効果的利他主義）
OpenAIとの関わりで言うと、そもそも設立時に関わっていた人達の中にも、効果的利他主義に傾倒していた人達がいました。例えば、今の思想は分かりませんが、ピーター・ティール氏やイーロン・マスク氏などがそうです。
それに基づき、アルトマン氏の本当の思想は直接話していないので分かりかねますし実際は完全な対立ばかりではないと思いますが、衝突し得るポイントを理解しやすくするために思想・アプローチの対立シナリオを単純化してみました。効果的利他主義／Effective Altruismと対立する立場は「ビジネス・市場重視派」としました。
AIの潜在的リスク管理のアプローチ
少し主題から逸れますが、上記の「リスクは設計により効果的に管理」というアプローチについて、少し掘り下げます。これは、開発を制約するのではなく、発生するリスクにあらかじめ設計上対処することに焦点を当てています。参考になるのが戦略コンサルティング会社のマッキンゼーがレポートした「設計によるAIのリスク低減」というアプローチで、AI開発・提供プロセスにリスク管理を統合する必要性を強調しています。主なポイントは以下の通りです
- 急速に進展する環境においては、規制や従来のリスク管理アプローチでは不十分な可能性がある
- そのため、AIプロダクトの企画段階から外部提供後までの全工程にわたり、リスク管理の思想・アプローチを組み込むことが重要。例えば、モデルの解釈可能性やバイアス検出などのための技術を組み込むことが含まれる。
- このアプローチは、AIのイノベーションを制約することなく課題に取り組むことに寄与する。
いずれにせよ、効果的利他主義はまだまだ存在していますので、こうした思想的な対立はOpenAIに限らずAI業界では今後も起こる可能性があります。
今後、AI企業とのパートナーシップ構築やAI企業のサービス活用に当たっては、経営層の思想的立場を考慮してみると何かしらの示唆が得られるかもしれません。
次は、今回の解任劇を受けて生成AIツールのユーザーと生成AIアプリケーション開発者は何を意識すべきかについてです。
