セキュリティ対策は!?AI 対応の UI の原則【後編】

セキュリティ対策は!?AI 対応の UI の原則【後編】

はじめに

弊社は「未来のインターフェイスを創る会社」として、AIやAR、VRなどの技術を活用し、これらの新しいテクノロジーと職場の業務や日常生活とのインターフェイス、すなわち「接点」を創り出すことを大きな指針としています。

そこで、わかりやすく使いやすいインターフェイスについて日々考えているのですが、特に「AI」に関するインターフェイスの作り方について3つの記事に渡って紹介したいと思います。今回の記事はその第 3 弾です!

AI対応のUIを作成する際に意識することや配慮すべき点について、こちらの記事(How to design for AI-enabled UI)を参考にまとめたので、ご覧いただければ幸いです。

AI 対応の UI の原則

データの透明性とユーザによる調整可能性

学習するAI
集めたデータに関して透明性をもち、ユーザー自身がそのデータについて調整できるように設計します。

AI はユーザーに属するデータに関して透明にすべきである

AI はユーザーに関するデータを持っています。プライバシーとデータ漏洩への懸念により、ユーザーに対して透明性を保ち、AI のデータとその動きについて確認する方法をユーザーに提供しなければなりません。何のデータが使用されているかをユーザーに示すことが重要です。

例えば、Amazon Alexa はユーザーがいつ眠りにつくか、またいつ街へ出掛けるかを知っています。もし Alexa が不正操作され、その情報を間違った人(強盗など)に手渡してしまった場合、大きな問題となります。これが、プライバシー問題に対処し、AI が何の情報を持っているかユーザーに対して透明であるべき理由です。

AI が学習可能な入力をユーザーが提供すべきである

AI は文脈に含まれる理由や論理を読み取れないので、出力する結果を文脈によって調整する方法をユーザーに提供しなくてはなりません。AI は人間からのフィードバックにより、文脈を読み取るように学習します。そのために、開発者はユーザーが AI にフィードバックを与えるための方法をデザインする必要があります。

Google 翻訳コミュニティにおいては、 Google はユーザーに手動翻訳と単語や文章を確認する方法を提供しています。
これはコンピュータが、一つの言語から別の言語へと文章を翻訳するための文脈を学び理解することを助けています。これにより AI は「学習」をし続け、調整されたビッグデータを早く得られます。この方法により、翻訳の質は向上し続けるのです。

ルンバと犬の糞の例では、ルンバは何が問題かをユーザーに質問するべきで、それを次の掃除のための学習に活かすべきです。この対話方法はユーザーと AI の両者に恩恵があります。

ユーザーは AI が何を学習するかを調整可能にすべきである

AI は機械学習とユーザーの行動を観察することによって自分自身を設定していきます。しかし、AI は間違いを犯し、ユーザーの望んでいない予測を出力することもあります。そのため、発見と許しをデザインするだけでなく、予測をユーザーが好むように調整できるような設計をします。

また、AI は人間から学習したことを完璧に忘れることもできます。これが AI のユニークな点です。経験自体はデータとして残りますが、ユーザーによるある種の「偏りと仮定」が作り出されて学習が調節されます。

例えば、あなたが Netflix のアカウントを持っているとします。あなたの友達は持っていません。あなたの友達は、あなたの Netflix アカウントであなたが好きではない映画をみました。これはあなたの友達の行為によって、アルゴリズムの結果が変わることを意味しています。この場合、あなたはあなたの友達の好みや行動履歴を消去するように予測結果を設定することを望むでしょう。

プライバシー、セキュリティ、そしてユーザーが最終的な意思決定者であること

AIと共存
プライバシー、セキュリティ、そして AI を制御する機能を推進することで、信頼を獲得しましょう。

ユーザーが AI を信頼できるように、個人的なデータに関して最高のセキュリティを設計する

現在のテクノロジーは、顔認識や音声認識、指紋、そして2要素認証(例えば、パスワードとテキストメッセージや電話などによるパスコードの組み合わせ)などの手法で、ユーザーに安全性と個人的なデータの保全を提供しています。 UI にこれを含めるのは、ユーザーが AI を安全だと感じるだけでなく、実際にデータを安全にし、 彼らのプライバシーを守るためです。単なるパスコードでは十分ではありません。 AI 対応の UI がプライバシーやセキュリティーを推進することで、ユーザーに信頼してもらわなければなりません。

Naïma van Esch 氏は 仮想通貨を使い始めた時に、プライバシーとお金を扱う UI の安全性の大切さに気付いたと語ります。面倒な二要素認証によるセットアップすら、自分のためだと思えば嫌がらなかった、と。AI がもっと重大で、個人的で微妙なプライバシー情報を持つようになることで、UI がそれらのデータを守るのに最適化されているかどうかが非常に重要になります。

テスト実行を提供することにより、約束通りの機能が提供できていることを証明する

新製品に対しては特に、ユーザーはそれが約束通りの機能を提供するかどうかをテストしたがります。製品が約束通りの機能を提供することで、ユーザーからの信頼に繋がります。

Naïma van Esch 氏はルンバに対してこれを行ったと語ります。初めての利用時に、14:46 にセットアップを行い、14:47 に自動起動するように設定したのです。設定された時間に掃除をするのかチェックしたかったからです。それが実際に行われるのをみてからはルンバを信用し、仕事に行っている間、12:00 に掃除をするように設定したそうです。

ユーザーが介入し、制御を引き継げるように設計する

ユーザーが必要なときにいつでも、入力手段を使用してツールを制御できるように設計します。

Naïma van Esch 氏のペット自動餌やり器は、二つのボタンを押すことにより、いつでも餌を出すことができます。またルンバはクリーンボタンを押すことで、スケジュール外の時間に起動させたり停止させたりすることができます。またルンバは、掃除して欲しい場所に(持ち上げて運ぶことで)物理的に移動させることもできます。

AI はユーザーの介入から学習すべきである

ユーザーが介入し、制御を引き継いだ時は、AI はこの行動から学習しなくてはなりません。 AI は今後さらにユーザーに寄り添った出力を出すために、この行動を記憶しておかなければなりません。

例えば、Nest サーモスタットは温度を上げたり下げたりしたことを学習しています。これにより、ユーザーに最適化されたスケジュールを導き出そうとしています。

AI はユーザーの同意なく動作すべきでない

AI は重要な結果が従うタスクを実行するにあたって、ユーザーに確認と承認を求めなくてはいけません。もちろん、AI は積極的であるべきです。しかし、あくまでユーザーが最終決定者であり続け、AI が何を積極的に行うかは、ユーザーに確認しなくてはいけないのです。

例えば、 Digit はユーザーの支出傾向を分析します。これはチャットボットとして機能し、お金を貯金するために節約するかどうか、ユーザーに積極的に質問をします。

AI はシステムエラーをユーザーに伝えるべきである

障害があった場合には、それをユーザーに伝えましょう。全てのインターフェースと同じように、コンピュータはユーザーに何をして欲しいかを明らかにする必要があります。 AI はユーザーにエラーを修正するための方法を提供することができます。

私のルンバが引っかかってしまった時は、何か問題が起きていることを、ブザーで知らせます。 もしブザーで知らせなければ、動いていないことすらわかりません。

まとめ

当たり前のことにはなりますが、AI 用に設計する時には、常にユーザー目線で考えることが必要です。製品を使いやすくし、便利で、効率的で、ユーザーから信頼されるものを開発しなければなりません。

この連載で紹介した「AI 対応 UI の原則」については、全てを守ろうとすると、相反する内容に感じられるものも含まれています。例えば、前編 2 項目の「許したくなるデザイン」は、本記事 2 項目が実現しようとしている「信頼したくなる」ものとは相反してしまう可能性があります。また、ユーモアも一歩間違えれば信頼を傷つける可能性を孕んでいます。開発者側は、信頼感を実質以上に演出しようとすれば、ユーザーに伝えなくてはいけないシステムエラーや予測不可能性を隠そうとしてしまうかもしれません。

このように、矛盾点や課題は挙げだしたらキリがありませんが、実現不可能という訳ではありません。AI はブラックボックスであり、その中でユーザーのプライバシーに関わる情報を所有する可能性があります。弱点などの課題をしっかりと認識してそれらを一つ一つ解決していくこと、全体のバランスを考えて注意深くデザインすることが重要です。

AI はうまく使うことができれば非常に便利な技術ですが、それを開発するには人間の地道な努力が欠かせません。最先端の技術も、根底には必ず人間が関わっています。私たちも、表面的な目に見える部分だけではなく、もっと奥底の根底の部分で誠実さを持って、開発やものづくりを続けていきたいですね。

最後は AI の話からなんだか脱線してしまった気もしますが、、、AI などの技術について、何かわからないことやご質問があればお気軽にお問い合わせください!喜んでご対応させていただきます ^^

 


▼お問い合わせはこちら
お問い合わせ


AI interface 株式会社RAKUDO、100年後の働き方を創る

ーーーーーーーーーーーーーーーーーーーーーーーー
【株式会社RAKUDO】
下記の事業を中心に行なっている名古屋の企業です。

●エンタメ系や製造業の方に向けたVR/AR/MR開発
●モーショントラッキングのデータ作成サービス
●AI開発が楽になるプラットフォーム「AI interface」

お困りのことがあれば些細なことでもお気軽にご連絡ください。
一緒にアイディアを形にしましょう!
ーーーーーーーーーーーーーーーーーーーーーーーー

AI interfaceカテゴリの最新記事