
AIでアプリを作れたことと、その安全を保障できるかは別問題だ
#Thinking
先日の記事でも述べたが、最近はリスキリングの一環としてAIを使って自分専用のアプリを作ることに取り組んでいる。
もともとぼくはプログラミングを専門としているわけではない。製造業の技術系管理職として働いているが、Webアプリを開発するための知識は十分に持ち合わせていない。
それでも、今はAIに指示を出しながら、実際に動くものを作ることができる時代だ。
例えば、最近作った「AI Relay」というアプリがある。
これは、自分の入力した質問に対して、まず一つのAIが回答し、その回答を別のAIが批判的にレビューすることで、最終的な回答をブラッシュアップするというものだ。それぞれのモデルでの強みがあるだろうから、二つの視点でのアウトプットで質が上がらないか、という視点だ。
APIやらChatGPTworkやらwebアプリの勉強がてら一つの問いに対して二つのモデルを経由して出力するアプリを作ってみた。
— よしすけ🐽 (@yosisuke_san) October 10, 2026
初稿:GPT6.1sol
批判的レビュー後修正:Opus5.5
で出力するサイト作ってみたけど思ったより初稿に引っ張られてOpusを使っても付加価値が感じられなかった。これはこれで面白いな。 pic.twitter.com/xGCxlOe7ll
構成としては、複数のAIをAPIでつなぎ、Webブラウザから操作できる形にした。生成AI(今回の場合はChatGPT work)に指示をするだけですぐにこのようなアプリを作ることができる。
そして、実際に動くアプリができたことで、一つの問題を考えるようになった。
「動くものができた」ということと、「安全に使える」ということは、まったく別なのではないか。
という点だ。
作れることと、理解していることは違う
AIを使って開発していると、驚くほど簡単に実装が進むことがある。
やりたいことを言葉で伝えると、AIがコードを書き、必要な機能を追加してくれる。エラーが出ても、その内容をAIに伝えれば修正案が返ってくる。
開発に必要な知識が十分になくても、試行錯誤を続ければ、ある程度のものが形になる。
しかし、ここに一つの落とし穴があると思う。
自分で作れていない部分について、自分で評価することもできない可能性がある。
例えば、Webアプリでは、ブラウザ、サーバー、外部のAIサービスなど、複数の要素が情報をやり取りしている。
ユーザーが入力した文章はどこへ送られるのか。APIキーはどこで管理されるのか。そのアプリを使えるのは誰なのか。
AIはこれらを実装することができる。しかし、実装結果が適切かどうかを判断するには、別の知識が必要になるし、今の自分には全くもって不足している。
そこで、自分で作ったAI Relayを教材にして、Webアプリの仕組みやセキュリティを学び始めた。
※今日の本筋ではないので省くが、後々Learning Notesとしていろいろとまとめていきたい。

すべてのコードを理解する必要があるのか
では、AIを使ってアプリを作るなら、プログラミングやセキュリティを専門家と同じ水準まで学ぶ必要があるのだろうか、と言われれば必ずしもそうではないだろう。
もちろん、理解が深いに越したことはない。しかし、専門家と同じ能力を身につけることが前提になるなら、AIによって開発のハードルが下がった意味も薄れてしまう。
ここで考えたいのが、「何を自分で実行できる必要があるか」と「何を自分で判断できる必要があるか」の違いである。
例えば、暗号化のアルゴリズムを自分で実装できなくても、機密情報を適切に保護する必要があることは理解できる。
つまり、実装する能力と、実装に必要な条件を定義し評価する能力は、分けて考えられる。
ただし、原理が理解できれば安全性を保証できるというわけでもない。自分で検証できない領域やリスクの高い用途については、専門家によるレビューなどが必要になる。
大切なのは、自分の理解の範囲と限界を把握することだと思う。
AIに任せるために、人間が理解すること
ここまで考えて、AIを使う上での自分の学習方針も少し明確になってきた。
AIを単なる質問相手ではなく、実際の作業を進める「実行者」として使っていきたい。そのために必要なのは、
・どこまで任せてよいのか。
・どのような条件を満たす必要があるのか。
・何を確認してから実行を承認すべきなのか。
こうした判断ができるようになる必要がある。
これは、普段の仕事でのマネジメントにも通じるところがある。
部下に仕事を任せるときも、すべての作業を自分で実行できる必要はない。しかし、何を達成すべきなのか、どのような条件を満たす必要があるのか、どのようなリスクがあるのかは考えなければならない。
AIを実行者として使うことにも、似た構造があるのではないかと思っている。この論点については後日掘り下げてみようと思っている。
作れるようになったからこそ、学ぶことが増えた
それでも、実行を委ねることと、判断の責任まで委ねることは違うという原則は共通しているように思う。
以前は、プログラミングなどの技術を知らなければ作れなかった。
今は、その技術を十分に知らなくても、AIの助けを借りて作ることができる。
これは大きな変化だと思う。
一方で、作れるものが増えるほど、その成果物を適切に扱うための判断も必要になる。
だからぼくは、すべてのコードを理解することよりも、まずは安全に利用するための原理を理解し、自分が判断すべきことを明確にしていきたい。
AIができることが増えたからこそ、人間は何を理解する必要があるのか。
自分で作ったアプリを使いながら、その問いを考え続けていこうと思う。