CISOと人工知能が進化するためには、信頼が必須です

人工知能(AI)はもはや未来ではありません。それはすでに私たちの家、車、そして多くの場合、私たちのポケットで使用されています。テクノロジーが私たちの生活の中でその役割を拡大し続けるにつれて、重要な問題が浮かび上がってきました。それは、AIシステムにどのレベルの信頼を置くことができるか、そしてすべきかということです。

CISOの人工知能

それは、EU委員会が新たに提案されたEU人工知能法で答えるために着手したまさにその質問です。「人工知能に関しては、信頼は必須であり、持つのは良いことではありません」、デジタル時代に適合した欧州委員会の欧州委員会の副社長であるマルグレーテベスタガーは述べています。「これらの画期的なルールにより、EUは、AIが信頼できることを保証するために、新しいグローバル規範の開発を主導しています。」

私たち全員がマーグレスに同意することはできますが、新しい規制だけでは問題を解決することはできません。法律が絶対的な力と耐久性を持つためには、信頼できる人々のチームが規則を施行し、テクノロジーに対する認識を高める必要があります。組織内では、執行と教育を主導することは、最終的に最高情報セキュリティ責任者(CISO)に委ねられます。

従来、CISOは、長期的な金銭的見返りを損なう可能性のあるセキュリティリスクに対してビジネスチャンスを評価していました。新しいテクノロジーとそれに続く規制の台頭に伴い、CISOの役割は拡大しており、GDPRなどの規制への企業のコンプライアンスや、個人データ要件に関する従業員の教育により、すべての人の安全を確保しています。

テクノロジーの現状に疑問を投げかける

消費者や市民からの懸念が高まり、より多くの倫理と信頼の必要性が高まっているため、AIテクノロジーの健全で公正な使用を確保するために制限を設ける必要があります。新しいEU人工知能法は、規則を規定し、企業に急速なテクノロジー採用の社会的影響を調査するように強制するため、有益です。

テクノロジーのメリットとリスクのバランスを見つける必要があります。AI対応アプリケーションの出現により、従来の監視は、今日の監視と見なされているものを超える新しいユースケースを備えたスマートビデオに変わりつつあります。残念ながら、保護という名目で、カメラマンは視界内のすべての人をさらす危険があります。収集されるデータや、それがより大きな利益のために安全であるかどうかを見落としがちです。

テクノロジーの使用と革新は、透明性があり、説明可能でなければなりません。

2020年、COVID-19の混乱の中で、フランスはコンタクトトレーシングアプリケーションを立ち上げましたが、ほとんどの市民が使用されているテクノロジーとデータの収集方法と保存方法に疑問を持っていたため、その採用は信じられないほど低かった。それはフランス政府にそのアプローチを再考し、アプリケーションの新しい「強化された」バージョンを立ち上げることを余儀なくさせました。

このような話はユニークではありません。コロナウイルスによって英国政府が教師の予測した成績を削除し、学校の過去の成績に基づいたアルゴリズムの使用に切り替えたときに何が起こったのか覚えていますか?それとも、性別データが不足しているために女性よりも男性を好んだApple Card?

テクノロジーを使用する場合は、360°のアプローチを取る必要があります。AIを完全に活用するには、適切なインフラストラクチャ、関連するアルゴリズム、データの品質、アクセス権を持つユーザー、セキュリティプロトコルを確認する必要があります。このアプローチには、使用するデータの透明性を高め、テクノロジーの影響を受ける人々への教育を含める必要があります。

焦点が新しい作業方法、新しいテクノロジー、またはその他の種類の変更であるかどうかにかかわらず、話は常に同じです。時間と労力がかかりますが、最終的には、信頼を構築することが、デジタルトランスフォーメーションを成功させて維持する唯一の方法です。

CISOと人工知能

CISOの役割は急速に進化しています。規制はビジネスの実行方法を絶えず変化させています。20年前の仕事は、基本的にファイアウォールを管理し、境界を保護することでした。どのテクノロジーソリューションが悪者をビジネスから遠ざけるのに最善の仕事をするかを知っていれば、何を保護しているかについて多くを知る必要はありませんでした。

今日の世界は大きく異なります。デジタルテクノロジーは、ビジネスおよび意思決定プロセスのあらゆる部分に注入され、リスクのレベルを高め、したがって、CISOの役割の重要性を高めています。両方の立場がデータガバナンスで交差しているため、CISOや法務などの予期しない結合が見られます。CISOはビジネスの成長をサポートし、私たちの指先で利用可能なすべてのテクノロジーを使用して、運用とデータの安全を確保します。

将来のCISOの役割は、急速な変革と継続的な市場の混乱を通じて組織を導きます。データベースのビジネス上の意思決定を行うための最も意味のある方法を探すとき、AI、機械学習、ロボットプロセスの自動化は必然的にこのプロセスの一部になります。EU人工知能法は、持続可能なデジタル経済の基盤を築き、CISOはこのデータ主導の未来を信頼に基づいて確立します。