AI自身にブラウザ拡張機能を作らせてみた：ローカルLLMからAPI方式への方針転換記録

はじめに

AI開発支援ツールが普及する中、開発者の思考プロセスそのものをリアルタイムで補助するツールの可能性に注目が集まっています。今回紹介するのは、そのようなブラウザ拡張機能をAI自身に開発させてみたという興味深い実験です。

プロジェクトの背景

この取り組みは、Antigravityでの開発経験から生まれました。開発中に「思考が行き詰まる」「次の一手が見えない」といった瞬間に、AIがリアルタイムで補助してくれる環境を実現できないか、という発想がきっかけとなっています。

開発アプローチ：AI自身による実装

特筆すべきは、この拡張機能の開発をAI自身に任せたという点です。これにより以下のような知見が得られました：

ローカル推論の理想と現実

当初はプライバシーとレスポンス速度を考慮し、ローカルLLMでの推論を目指していました。しかし、以下の課題に直面します：

直面した課題

API方式への方針転換

これらの現実的な制約から、API方式への転換を決定しました。

転換の利点

トレードオフ

一方で、ネットワーク遅延やコスト、プライバシーへの配慮といった新たな考慮事項も発生しています。

得られた教訓

1. **理想と現実のバランス**: 技術的理想と実用性の間で適切な妥協点を見つけることの重要性

2. **AI活用の実際**: AIに開発を任せることで得られる速度と、人間の判断が必要な領域の明確化

3. **プロトタイピングの価値**: 実際に作って試すことでしか見えない課題の存在

まとめ

ローカルLLMへの期待は大きいものの、現時点ではAPI方式が実用的な選択肢となります。しかし、この実験を通じて得られた知見は、将来のローカルLLM技術の発展により再び活かされる可能性があります。

技術選択は常にトレードオフであり、プロジェクトの目的と制約に応じた最適解を見つけることが重要です。

この情報は @gimiya-rikkasen さんの投稿を参考にしています。