研究背景
ニューラルネットワークが新しいタスクを次々に学習すると、すでに獲得した能力を上書きしてしまう。これが破壊的忘却（French, 1999）。能力をタスクとともに蓄積し続けるにはどうするかが、継続学習の中心的な課題（Parisi et al., 2019）。CLAgent はこれをエージェントシステムに持ち込む：タスクを実行する中で継続的に学習し、システムの能力がそれに伴って拡張される。
French, R. M. (1999). Catastrophic forgetting in connectionist networks. Trends in Cognitive Sciences, 3(4), 128–135.
Parisi, G. I., et al. (2019). Continual lifelong learning with neural networks: A review. Neural Networks, 113, 54–71.
階層ごとの自律進化
3 つの層すべてが進化する。変更は一つひとつ判定を経てから有効になる。
- 記憶セッションごとに事実と好みを書き込み、書き換え、忘れ、以降のタスクで検索して再利用する
- アプリスキルを抽出し、自身のアプリを書き換える：提案、複製での試験実行、新しい世代になる
- システム上の 2 層の変更をロードして判定する。システムコール以外の機能は自律進化する
継続学習ループ
システムの機能
ファイル、ターミナル、ブラウザ、モデルはカーネルが提供し、新しい能力はアプリとして追加する。
ファイルと文書
ワークスペース内のファイルを読み書きし、Word、PPT、表計算シートを生成する。
ターミナルとコード
shell コマンドと Python を実行し、出力は 1 行ずつ確認できる。
ブラウザ
内蔵ブラウザでウェブページを開き、読み、操作する。
過程と権限
すべての手順はタイムラインに記録され、要注意の操作は事前に承認を得る。
モデル
公式サービス、または OpenAI 互換エンドポイントに接続する。
アプリ
能力ごとに 1 つのアプリ。インストールでき、置き換えでき、進化できる。
利用方法
モデルの入手先は 2 種類あり、違いはモデルリクエストを誰のゲートウェイが転送するかにある。
公式サービス
モデルリクエストは公式ゲートウェイが転送し、token で計量する
- 利用できるモデルは公式が管理する
- 使用量はリアルタイムで記帳され、アカウントで確認できる
自分のエンドポイント
モデルリクエストはユーザー自身のサービスエンドポイントへ直接送られる
- OpenAI 互換エンドポイントに対応する
- モデルの一覧とパラメータはユーザーが設定する