Pixel 9搭載Gemini。実際にAIは直接悪用されることはないのか?

Googleは2018年頃には消しゴムマジックの基礎技術を完成させていたと言われており、Google Tensorに関しても2017年頃から開発を開始との話。何よりPixelのAIを強化するためにGoogleはSnapdragonから離れたことを明らかにしています。

またPixel 9シリーズからは「Gemini」の統合が中心となっており、今後ますますAIが中心のスマホになる可能性があります。今回Android AuthorityがGoogleのGeminiの悪用について言及していることが判明したので簡単にまとめたいと思います。

悪用のパターンを特定。

少なくとも今ほど「AI」と騒がれる前からもスマホにはAIの技術が採用されていました。ただ各社AIを全面に押し出してきたことからもユーザーの認知度がかなり上がったという印象を受けます。

ただ多くのユーザーにとって「機能」的な側面が強く、単純に使うか使わないかの2択になっていると思います。一方でAIを上手く利用することでユーザーの生活をもっと便利にしてくれる上に、ビジネス上では生産効率の改善にも役立ちます。

一方でAIは悪用される心配はないのかという疑問も出てくると思います。そして今回の情報によるとGoogle の Threat Intelligence Groupはgeneration AIの敵対的な誤用に関するレポートを公開したとしています。

同社は2つの主要なタイプの攻撃を特定しています。マルウェアの構築に使用される可能性のあるコードを生成するなど、AIを使用して手を貸すものと、アカウントデータの収集など、AIに不要なアクションを直接実行させようとするものです。また、敵対者の2つの主要なカテゴリーについても耳にします。高度な永続的な脅威(APT)は、国家が資金提供する大規模なハッカーグループである傾向があり、情報運用(IO)は、欺瞞とソーシャルメディアの混乱に関するものです。

何より全体としてみた時にGeminiの悪用で成功した事例がほぼないことです。一方でGeminiから直接ではありませんが、人に害をなす研究ツールとしてGeminiを使用しているパターンは見られるとしています。

中国、イラン、北朝鮮、ロシアの4カ国のAPTを、ジェミニの誤用のバックボーンとして実際に形成していると特定しています。これらのグループは、軍事および諜報機関のターゲットに関する情報の要約、ソフトウェアの脆弱性の説明、コーディング支援の提供などの目的でジェミニを使用しました。

AIの悪用を完全に防ぐことは出来ない。

何よりAIの悪用を完全に排除するには限界があることを指摘しています。少なくとも現状だとGeminiから直接害をなすことは出来ないようになっているみたいですが、より広範囲かつ離散的な使い方に対しては対処するのが難しいと指摘しています。

より広範な計画が離散的で不本意のない手順に分割できる場合、悪役は依然としてAIの力を利用して仕事をより簡単にすることができます。結局のところ、それはAIが行うように設計されたからです。

なんか便利な技術が生まれれば悪用を考える人は必ずでてきます。これはAIに限った話ではありません。何よりAIを使うにもセキュリティが非常に重要でAppleはクラウドサーバーのセキュリティを強化したとアピールしていますが、そもそもネット接続の時点でリスクがあります。

一方でGoogleに関してはオフライン処理をメインとしており、今後Gemimi含めてセキュリティの強化をしていくのかもしれません。そのための一つとしてGoogleはPixel 11シリーズでコストをかけてでも3D顔認証を導入しようと開発を進めているのかもしれません。

PR)購入は待ち時間不要のオンラインショップがおすすめ!

 DoCoMoはこちらで! auはこちらで!
SoftBankはこちらで! 楽天はこちらで!

LINEMOはこちらで! ahamoはこちらで!
最新情報をチェックしよう!
>Gazyekichi VLOG

Gazyekichi VLOG

記事ではなかなか伝えることが難しい機種のスピーカーや動画の手ぶれ補正などをYouTubeでよりわかりやすくご確認できます。

CTR IMG