&nb...
AIとセキュリティ 制御システム（その8）
更新日 2023-03-01
投稿日 2019-09-26
【制御システム 連載目次】
- 1. セキュリティ脅威と歴史
- 2. サイバー攻撃事例、情報システムとの違い
- 3. リスク分析とセキュリティ脅威
- 4. セーフティシステムのセキュリティ対策
- 5. 組織内のセキュリティ問題対策
- 6. 国際規格・業界規格
- 7. セキュリティ認証
- 8. AIとセキュリティ
- 9. 脆弱性
- 10.脅威インテリジェンス
- 11.自動車の制御系セキュリティ
AIは故障予知、自動車の自動運転などの領域で盛んに技術開発が進んでいますが、セキュリティとの関係はどうなっているのでしょう。
神戸大学の小澤教授の「セキュリティ分野におけるＡＩ活用の現状と期待」と題する講演を拝聴したことがあるのですが、興味深い内容でした。 講演内容によりますと、サイバー攻撃・防御におけるAI適用という話と、AIの仕組みがサイバー攻撃を受けるという側面があるとのことでした。
MiraiというDoS攻撃型の兆候を観測していたところ、ダークネットのアクセスには特徴があり、観測期間中にも変化していました。主にＷｅｂシステムでの攻撃手口が高度化、多様化してきており、今後も増大すると見込まれています。
こうした状況下において、攻撃にAIが使われる、また その反対に攻撃の検知といった防御にAIが活用されるということです。
防御ということでは、アノマリー検知が知られています。通常の正常状態のネットワークトラフィックを学習しておき、正常と異なるアクセストラフィックを検知して異常状態の可能性を通知するというものです。
次にAIが攻撃を受けるということですが、最近のクラウドサービスでは機械学習の環境セットが有償で利用できるようになっているので、その機械学習を用いた公開サービスが狙われるわけです。
これは可能性としてはありそうなことで、公開した後も動的に学習し続けるような仕組み になっていると、おかしな画像データなどをわざと学ばせておかしくさせることができそうです。
敵対的生成ネットワーク（GAN: Generative Adversarial Networks）というAIの識別能力を高める、鍛えるための仕組みがありますが、これを悪用するとできそうです。GANは内的にはディープニューラルネットワークで構成されているので、フェイク画像をたくさん読み込ませる ことで、学習勾配を変化させ、誤認識率を上げるなど混乱させることができるというわけです。
続きを読むには・・・
「情報マネジメント一般」の他のキーワード解説記事
もっと見る
予測と事実と感想 データ分析講座（その236）
議論や報告書などで、何かしらの事実（ファクト）を元にしているのか、予測した結果（もしくは推論した結果）から導き出したものなのか、単なる...
議論や報告書などで、何かしらの事実（ファクト）を元にしているのか、予測した結果（もしくは推論した結果）から導き出したものなのか、単なる...
IoBとは、－活用事例、リスクおよび今後の展開－
各種センサーデバイスの進化により、身の回りの事象データが取得できるようになってきました。すでにIoT（Internet of Thin...
各種センサーデバイスの進化により、身の回りの事象データが取得できるようになってきました。すでにIoT（Internet of Thin...
誰かが困っているところで、循環経済を起こせ！ データ分析講座（その221）
【この連載の前回：データ分析講座（その220)完璧にデータを集めなければならないのかへのリンク】 データサイエンスは、データとドメイ...
【この連載の前回：データ分析講座（その220)完璧にデータを集めなければならないのかへのリンク】 データサイエンスは、データとドメイ...
「情報マネジメント一般」の活用事例
もっと見る
簡易版DX／IoTから機械学習への移行
◆ DX(デジタル・トランスフォーメーション)を使えばコスト削減と納期短縮が可能に 産業界のニュースなどをインターネットで読んでいると...
◆ DX(デジタル・トランスフォーメーション)を使えばコスト削減と納期短縮が可能に 産業界のニュースなどをインターネットで読んでいると...
‐販路開拓に関する問題 第1回‐ 製品・技術開発力強化策の事例（その17）
前回の事例その16に続いて解説します。開発が完了したから販売先を探す。そのような考え方で開発に従事することは根本的に間違っている事は既に述べました。開発...
前回の事例その16に続いて解説します。開発が完了したから販売先を探す。そのような考え方で開発に従事することは根本的に間違っている事は既に述べました。開発...
‐情報収集と開発活動、営業の役割‐ 製品・技術開発力強化策の事例（その12）
前回の事例その11に続いて解説します。製品開発は完了したがどのように売れば良いのか、ベンチャ－ビジネスの相談や異業種交流の会合では特に売り方に関する...
前回の事例その11に続いて解説します。製品開発は完了したがどのように売れば良いのか、ベンチャ－ビジネスの相談や異業種交流の会合では特に売り方に関する...
