Von Bedeutung
英語以外の翻訳は便宜上のみ提供されています。 バインドのバージョンについては、このドキュメントの EN-US バージョンを参照してください。
Microsoft は、カスタム テキスト分類を使用して、お客様が責任を持ってソリューションを開発および展開できるように支援しています。 Microsoft の原則的なアプローチは、AI システムの次のことを考慮して、個人の主体性と尊厳を守ることです。
- 公平性、信頼性、安全性。
- プライバシーとセキュリティ。
- 包括性。
- 透明性。
- 人間のアカウンタビリティ。
これらの考慮事項には、責任ある AI の開発に対するコミットメントが反映されています。
統合と責任ある使用原則に関する一般的なガイドライン
AI を利用した製品または機能を統合して責任を持って使用する準備ができたら、次のアクティビティを使用して成功を収めるのに役立ちます。
それが何をできるかを把握します。 AI システムの可能性を完全に評価して、その機能と制限事項を理解します。 実際の状態とデータを使って十分にテストすることで、特定のシナリオとコンテキストでそれがどのように動作するかを把握します。
プライバシーに対する個人の権利を尊重する。 適法かつ正当な目的でのみ、個人からデータと情報を収集します。 この目的に使用することに対して同意を得たデータと情報のみを使用します。
法的レビューを取得します。 特に機密性の高いアプリケーションや危険度の高いアプリケーションでソリューションを使用する場合は、ソリューションを確認するための適切な法的アドバイスを得ます。 作業で従う必要がある可能性のある制限と、将来発生する可能性のある問題を解決する責任について理解します。
人間をプロセスに関与させる。 人間をループに入れ、探索する一貫したパターン領域として人間の監視を含めます。 AI を利用する製品や機能を継続的に人間が監視できるようにします。 意思決定における人間の役割を維持します。 AI システムが想定どおりに動作しない場合に、損害を防ぎ、状況を管理するために、人間がソリューションにリアルタイムで介入できることを確認します。
セキュリティを維持する。 ソリューションが安全であり、コンテンツの整合性を維持し、承認されていないアクセスを防ぐための適切な制御があることを確認します。
影響を受ける利害関係者との信頼を構築します。 影響を受ける利害関係者に、期待されるメリットと潜在的なリスクを伝えます。 データが必要な理由と、データの使用がどのように利益につながるかを、ユーザーが理解できるようにします。 データの取り扱いをわかりやすく説明します。
顧客フィードバック ループを作成します。 ユーザーと個人が展開後のサービスに関する問題を報告できるフィードバック チャネルを提供します。 AI を利用する製品または機能をデプロイした後は、継続的な監視と改善が必要です。 改善のためのフィードバックと提案を実装できるようにします。 影響を受けた利害関係者から質問や懸念事項を収集するためのチャネルを確立します。 システムによって直接的または間接的な影響を受ける可能性があるユーザーには、従業員、訪問者、一般市民が含まれます。 たとえば、次の使用を検討してください。
- アプリ エクスペリエンスに組み込まれているフィードバック機能。
- フィードバック用の覚えやすいメール アドレス。
- 半プライベート空間に配置された匿名のフィードバック ボックス。
- ロビーの知識豊富な担当者。
処理する前に、必ずユーザーにアクションを確認してもらうことを計画してください。 カスタム テキスト分類モデルからの誤った応答を回避するために、クライアント アプリケーションによって処理される前にユーザーにアクションを確認してもらうことを計画します。 たとえば、カスタム テキスト分類モデルが保険請求承認システムに統合され、非緊急のケースを分類するとします。 モデルの予測を処理する前に、味方になってくれる人に確認してもらう。
常にユーザーのために修正経路を用意しておく。 クライアント アプリケーションによって特定のアクションが実行された後、処理されたアクションの確認メッセージをユーザーに表示します。 カスタム テキスト分類モデルの応答が正確ではなく、ユーザーがエラー状態になる可能性があることを計画します。 その場合は、ユーザーがその状態から抜け出すために使用できるフォールバック プランまたは修正パスを常に持つ必要があります。