AGIの自己改良の限界
シンギュラリティ思想ではAGIは無限に自己改良します。
実際には、さまざまな制約があると考えられます。
改良方法による改良の制限を表にまとめました。
| 改良案の生成 | 改良案の評価 | 改良可能な性能 | 改良の速度 | ||
| 効率 | 精度 | 汎用性 | |||
| AGI | AGI | ○ | × | ○ | 無制限 |
| AGI | 人間 | ○ | ○ | ○ | 人間が制限 |
| 人間 | AGI | ○ | ○ | ○ | |
AGIの性能
・効率： 時間とコストのパフォーマンス
・精度： 効率を無視した場合の結果の良さの限界
・汎用性： 対応できる問題の範囲の広さ
精度だけは、AGIのみによる自己改良ができません。
人が介入すれば改良できますが改良速度が制限されます。
AGIの自己改良の過程
0.人間が最も良いと評価するAGIを、親AGIに指定
1.親AGIは自己のコードを複製し改変した子AGIを生成
2.親AGIは、親AGIと子AGIを評価
子の方が優れていれば、その子を親に指定
1へ戻る
精度の自己改良ができないのはステップ2が原因です。
常に親AGIが子AGIより優れていると評価してしまいます。
精度の限界というのは、無限に計算能力があれば、こういった出力を目指せと、人間が指定した目標です。
目標を改変してしまうと本来の目標に向かいません。
そのため、目標の改変されていない親AGI自身が、精度が最も優れていると評価します。
AGIの自己改良可能で究極のASIに達するための条件
精度以外の効率や汎用性は自己改良ができます。
自己改良で究極のASIに達するためには条件があります。
(1) 知能の評価基準が、知能の定義との合致であること
人間との近さを評価基準にしてしまうと、人間同等に達した後は、どこを目指せばよいのか分かりません。
(2) あらゆるコードを生成できる可能性があること
効率を無視すれば、ランダム生成でも構いません。
似たようなコードしか生成できなくなると、局所解に留まってしまいます。
(3) 効率、精度、汎用性を評価できること
これができないと自己改良が始まりません。
親AGIは子AGIが(1)(2)(3)を維持した上で性能が向上したと評価すれば、子を親にして繰り返します。
効率と汎用性はトレードオフになります。
どちらを優先するかは、人間が指示します。
ハードで補えない汎用性を重視するべきでしょう。
自己改良の開始には、効率の良いハードウェアも、効率の良いアルゴリズムも必要ありません。
効率が改善すれば改良速度も改善して加速します。
ただし、改良の余地が減れば減速原則します。
コメント