OWASP とは何か — AI の危険を教えてくれる「世界共通のチェックリスト」
プロンプトインジェクションの記事で、「OWASP が危険ランキングの 1 位に挙げている」という話が出てきました。
「OWASP（オワスプ）って、そもそも何？」 そう思った人のための記事です。
むずかしそうな名前ですが、正体はシンプル。 OWASP は、アプリの「危険」を整理して、誰でも使える形で公開している団体です。 この記事で、その役割と、AI との関わりをやさしく整理します。
OWASP とは
OWASP は、Open Worldwide Application Security Project の頭文字です。 日本語にすると「オープンで世界的な、アプリのセキュリティのための取り組み」といったところ。 特定の会社の持ち物ではない、営利目的でない国際的な団体です。
やっていることは、ひとことで言えば「危ないポイントの共有」。 世界中の技術者が、これまでに見つかった攻撃や失敗の知見を持ち寄り、誰でも読める形で公開しています。 だから、どこかの企業の宣伝ではなく、中立的な「共通の教科書」として世界中で参照されています。
有名なのは「Top 10」
OWASP の中でもいちばん知られているのが、OWASP Top 10 です。
これは、アプリでとくに起きやすい・被害が大きい危険を、10 個のランキングにまとめたもの。 もともとは Web サイトやアプリ向けのランキングで、セキュリティの世界では「まずこれを見よ」という定番になっています。
ランキングという形が優秀なところです。 専門家でなくても、「上位のものから気をつければいい」と、優先順位がひと目で分かるからです。
AI 版が「LLM Top 10」
その OWASP が、AI の広まりに合わせて作ったのが LLM Top 10 です。 LLM は大規模言語モデル、つまり Claude や ChatGPT の土台になっている技術のこと。
「AI を使ったアプリで、とくに危ないのは何か」を 10 個に整理したのが、この LLM Top 10 です。 そして、その 1 位に挙げられているのが、プロンプトインジェクションです。 「気にしすぎでは？」ではなく、世界中の専門家がそろって最優先で警戒している、という裏づけになっています。
代表的な危険（いくつか抜粋）
LLM Top 10 には専門的な項目も並びますが、初心者に関係の深いものを、やさしい言葉でいくつか紹介します。 （順位や項目は改訂されていくので、正確な最新版は公式で確認してください。）
指示の乗っ取り（プロンプトインジェクション） AI に「もとの指示を無視して別のことをせよ」と紛れ込ませる攻撃。 くわしくは プロンプトインジェクションとは にまとめています。
秘密の情報が漏れる AI に渡した機密や個人情報が、思わぬ形で外に出てしまう危険。 だから大事な情報は入れない、が基本になります。
AI に権限を与えすぎる AI にメール送信やファイル削除まで自由にやらせると、乗っ取られたときの被害が大きくなります。 「取り返しのつかない操作は自分で承認する」が効きます。
もっともらしい間違い（誤情報） AI が事実をそれらしく間違える性質も、危険の一つとして挙げられています。 いわゆるハルシネーションです。
出力をそのまま信用してしまう AI が返した文章やコードを、確かめずにそのまま使うと事故につながります。 最後は自分の目で確認する、という一手間が防波堤になります。
わたしたちは、どう使えばいい？
「専門家向けのランキングなんて、自分には関係なさそう」。 そう感じるかもしれませんが、初心者にも十分使い道があります。
LLM Top 10 は、「AI にはこういう落とし穴がある」という地図として眺めるだけで十分役に立ちます。 全項目を理解する必要はありません。 上位のものだけでも頭のすみに置いておけば、「あ、これ気をつける場面だ」と気づけるようになります。
そして、やることは結局シンプルです。 秘密は入れない、重要な操作は自分で承認する、最後は自分で確かめる。 このあたりは AI と安全につきあう で紹介した基本と、きれいに重なります。
よくある疑問
OWASP は AI 専門の団体ですか？ いいえ。もともとは Web アプリ全般のセキュリティを扱う団体で、その一部として AI 向けの LLM Top 10 も出している、という位置づけです。
ランキングは変わりますか？ 変わります。 新しい攻撃が見つかれば、項目や順位は改訂されます。 だからこそ、正確な最新版は公式サイトで確認するのが確実です。
読むには専門知識が必要？ 上位の項目をざっと眺めるだけなら、専門知識はいりません。 むずかしい部分は飛ばして、「どんな危険があるか」の雰囲気をつかむ使い方で十分です。
まとめ
OWASP は、アプリの危険を整理して公開する、中立的な国際団体。 その有名な「Top 10」の AI 版が「LLM Top 10」で、プロンプトインジェクションが 1 位に挙げられています。
初心者にとっては、危険を暗記するためのものではなく、「気をつける勘どころの地図」。 その地図の使い方は、結局いつもの 3 つに戻ってきます。 秘密は入れない、重要な操作は自分で、最後は自分で確かめる。
名前がむずかしいだけで、言っていることは案外シンプルです。 「世界中の専門家が、ここに気をつけろと言っている」。 そう知っておくだけで、AI とのつきあい方が一段落ち着きます。
もっと知りたい人へ
- OWASP「Top 10 for Large Language Model Applications」（公式） … AI 版の危険ランキングの一次情報。最新版の項目と順位はここで確認できます。→ owasp.org