こんにちは。
先週の水曜日に、仕事でセキュリティのセミナーに行ってきました。
内容はタイトルの通り、AIでセキュリティに関するログを分析して、運用効率・確実性を高めるというもの。
昨今、それこそAIの進歩もあって、サイバー攻撃が激しさを増す中で、企業は色々な防御ツールを入れるわけですが、ちゃんと運用できてますか？ってなところです。
たしかにツールによっては（というか設定によってはかな）大量のログやアラートが出力されるので、見るだけで手一杯というのは仰る通り。それを自動で分析、仕分けしてくれるというのは非常にありがたいです。
が、、、その結果信じれます？
私はAIのこういう使い方にはどうしても疑念が晴れなくて…見落としてんじゃないかなとか、その結論付けはほんとなのかとか……
今ほんとにどこ行ってもAIAIなんですが、AIを頼って良い前提として、使う人が背景等をちゃんと理解しているということが欠かせないと思うんですよね。理解してるから、AIの出す答えの良し悪しが判断できるわけで
つまり、AIがなかった時代を生きてきた人たち、つまりAIのインプットとなるものを作ってきた人たちが、AIを頼るのは正しい効率化だと思うんですが、そうじゃない人にとっては何を聞かされてるか分かったもんじゃないはずで、将来的には何が真実か分からない世界が来るんじゃないかなと心配しています（フェイクニュースとか、もう来てますよね）。
と言いつつ、私も仕事でもプライベートでもchatGPT使いまくりなんですけどね。。まあでも、よく突っ込むことはありますね。質問に対する答えの裏取りをしようとしても全然裏が取れないとき、問い詰めるとあっさり間違いを認めたりするのでね…
ちなみにセミナーでは世界的なセキュリティ製品メーカーの偉い人が、「AIの分析結果が正しくなるようにチューニング等が必要なんですが、なかなか…」って、、、え…？
コメント