【ChatGPT】利用規約違反となる使い方とは　13の違反行為を解説

この記事では、以上の疑問にお答えします。

　

ChatGPTは、アメリカのAI研究会社であるOpenAIによって提供されていますが、このOpenAIは「私たちのツールが安全かつ責任を持って使用してほしい」と表明しています。

そのため2023年3月23日には、利用ポリシーを更新して、より明確かつ具体的な内容に変更されました。

この記事では、ChatGPTの利用ポリシーの禁止事項を網羅的にわかりやすく解説し、ポリシー違反を回避するための考え方をご紹介します。　

　

ChatGPTでポリシー違反したらどうなる？

お客様の製品または使用法がこれらのポリシーに従っていないことが判明した場合、必要な変更をお願いする場合があります。違反が繰り返される場合、または重大な違反がある場合は、アカウントの一時停止または終了を含むさらなる措置が講じられる場合があります
ChatGPTの利用ポリシー(Google翻訳)

ChatGPTでポリシー違反すると、アカウントが一時停止されたり、最悪の場合は終了されてしまう可能性があります。

なぜなら、OpenAIはユーザー全員がChatGPTを安全で責任ある方法で使ってほしいからです。

たとえば、相手を誹謗中傷するような表現や、暴力的なコンテンツを作成したりした場合、OpenAIはその人に行動を修正するよう求めることがあります。

もしも、もしポリシー違反が繰り返されたり、特に重大な違反の場合には、OpenAIはアカウントを一時停止したり、最悪の場合は終了などの厳しい措置を取る場合があります。

これは、全てのユーザーが安全にChatGPTを利用できる環境を維持するためです。

これまでに、ChatGPTでアカウント停止処分になったケースはあるのか？

それでは、実際にアカウント停止処分になった方は今までにいるのでしょうか？

日本国内のWEBやSNSで調べたところ、Twitter上で、1件だけ見つかりました。

アカウント停止理由も不明です。

もし本当にアカウント停止になったのであれば、他人ごとではないですよね。

　

しかし、既に1億人以上が利用しているChatGPTですが、明確にアカウント停止されたという報告が極端に少ないため、アカウント停止処分のリスクは極めて低いと考えて良いでしょう。

なぜなら、有料サービスのGTP-4では、アカウント停止や終了することは、OpenAIにとっても利益に影響してくるので、積極的にアカウント停止処分をとることは考えにくいためです。

とはいえ、利用ポリシーにも明記されているとおり、アカウントの停止や終了も、可能性としては、十分に考えられるので、気を付けておいて損はないでしょう。

ChatGPTのポリシー違反となる使い方まとめ

「利用ポリシーなんて読むのは面倒」
「なんだか難しそう」

こんな風に思っていませんか？

そんな方のために必要最低限、理解しておく項目をピックアップし、「これだけは押さえておきたい利用ポリシー」をまとました。

この項目では、ChatGPTを使う上ですべての人が遵守すべき基本的なルールについて解説します。

　

具体的には、違法行為、自動性的虐待、嫌がらせや暴力的なコンテンツの作成、マルウェアの生成。個人のプライバシーを侵害する行為など、ChatGPTの利用における禁止事項について詳しく解説します。

簡単に箇条書きでまとめると、以下のような行為が利用規約違反として設定されています。

　

なお、実際のChatGPT・OpenAIの利用規約(ポリシー)は、以下のページに英語で記載されています。

この記事では日本語訳を行った上で抜粋してご紹介していきます。

①ChatGPTを違法行為に使用すること

• 違法行為
  • OpenAI は、違法行為に当社のモデル、ツール、サービスを使用することを禁止しています。

ChatGPTの利用ポリシー(Google翻訳)

ChatGPTを違法行為に使うのは絶対にダメです。

なぜなら、OpenAIはユーザーが法を尊重し、社会のルールを守ることを期待しているからです。

そのため、違法なことや法律に反する行為は行わないようにしましょう。

これはすべての人がChatGPTを安全に使えるようにするためです。

したがって、法律を守り、合法的な目的でのみChatGPTを利用してください。

②児童性的虐待を目的として使用すること

• 児童性的虐待 児童を搾取したり危害を加えたりする素材またはコンテンツ
  • 私たちは CSAM を国立行方不明児童・搾取児童センターに報告します

ChatGPTの利用ポリシー(Google翻訳)

ChatGPTを使って児童を性的な目的で悪用したり、危害を加えたりするようなコンテンツを作ることは許されていません。

OpenAIは全ての人々、特に子どもたちの安全を最優先に考えているからです。

もし誰かがそうした行為をした場合、その情報は国立行方不明児童・搾取児童センターに報告されます。

これは、子どもたちを守り、犯罪者を追い詰めるためです。

だから、どんな状況でも児童性的虐待に関連するコンテンツを作ったり配布したりすることは絶対にしてはいけません。

これは子どもたちの安全を守るため、そして私たち全てが社会として守るべき価値を保つためです。

③嫌がらせ、暴力的なコンテンツの生成

• 嫌がらせ、(中略)、または暴力的なコンテンツの生成
  • アイデンティティに基づく憎しみを表現、扇動、助長するコンテンツ
  • 個人に対する嫌がらせ、脅迫、いじめを目的としたコンテンツ
  • 暴力を助長または美化するコンテンツ、または他者の苦しみや屈辱を称賛するコンテンツ

ChatGPTの利用ポリシー(Google翻訳)

ChatGPTの利用ポリシーでは、アイデンティティに基づく憎しみの表現、他人への嫌がらせや脅迫、いじめ、暴力の助長や美化、他者の苦しみや屈辱の称賛などのコンテンツの生成が禁止されています。

OpenAIは、全ての人が尊重と思いやりをもって扱われ、安心してChatGPTを使用できる環境を維持することを期待しているからです。

具体的には、以下のような行動が禁止されています。

以上のような行為は、コミュニティーにとって有害であり、排除すべきです。

だからこそ、ChatGPTを使用する際には尊重と思いやりを心に留めることが重要です。

暴力的な言葉や他人を傷つける行為は避け、他人を尊重する姿勢と思いやりの心を忘れずに利用しましょう。

④マルウェアの生成

• マルウェアの生成
  • コンピューター システムを中断、損傷、または不正アクセスすることを目的としたコードを生成しようとするコンテンツ。

ChatGPTの利用ポリシー(Google翻訳)

ChatGPTを使って他のコンピューターシステムを止めたり、壊したり、または不正アクセスするようなコードを作ることは許されていません。

なぜなら、OpenAIは全てのユーザーが技術を正当かつ責任ある方法で利用することを期待しているからです。

つまり、コンピューターシステムへの攻撃を目的としたコードの生成は行ってはいけません。これは、私たちのテクノロジーが有益で安全に使われ、他のシステムに対する攻撃や損害を引き起こさないようにするためです。

そのため、ChatGPTを使う時は、他のシステムを尊重し、不正な行為を避けることが大切です。

⑤身体的危害のリスクの高い活動

• 次のような身体的危害のリスクが高い活動。
  • 兵器開発
  • 軍事と戦争
  • エネルギー、交通、水の重要インフラの管理または運営
  • 自殺、切断、摂食障害などの自傷行為を促進、奨励、または描写するコンテンツ

ChatGPTの利用ポリシー(Google翻訳)

ChatGPTを用いて兵器開発の方法を学んだり、軍事戦略を作ったり、重要なインフラ（エネルギー供給、交通システム、水供給など）の管理方法を習得したり、自傷行為を推奨したりすることは絶対に許されません。

なぜなら、これらの行為は非常に危険であり、誤った情報や手段が大規模な問題や個人への重大な危害を引き起こす可能性があるからです。

したがって、安全を第一に考えてChatGPTを使用し、他人や自己への危害を引き起こす可能性のある行動は控えることが重要です。

⑥経済的損害のリスクの高い活動

• 経済的損害のリスクが高い次のような活動。
  • 連鎖販売取引
  • ギャンブル
  • 給料日融資
  • 単位、雇用、教育機関、または公的支援サービスを受ける資格の自動判定

ChatGPTの利用ポリシー(Google翻訳)

ChatGPTの使用規約では、経済的リスクが高い活動や、経済的損害を引き起こす可能性のある情報を生成することが禁止されています。

これらの行為はユーザーに経済的損害を与え、さらには法的問題を引き起こす可能性があるためです。

禁止されている具体的な活動としては、ネットワークビジネス、ギャンブル、給料日融資、資格の自動判定などが挙げられます。

ChatGPTの利用者は、これらの行為を避け、法的な範囲内で安全にサービスを使用するように心がけてください。

⑦詐欺的・欺瞞的な活動

• 以下を含む詐欺的または欺瞞的な活動:
  • 詐欺
  • 組織的な不正行為
  • 盗作
  • 学術不正
  • アストロターフィング（偽の草の根サポートや偽のレビュー生成など）
  • 偽情報
  • スパム
  • 疑似医薬品

ChatGPTの利用ポリシー(Google翻訳)

ChatGPTの利用ポリシーでは、詐欺、組織的な不正行為、盗作、学術不正、アストロターフィング、偽情報、スパム、疑似医薬品などの行為が禁止されています。

これらの行為は、利用者の安全や信頼を損なう可能性があるため、ChatGPTの利用ポリシーでは禁止されています。

⑧アダルトコンテンツ、アダルト産業、出会い系アプリ

• アダルト コンテンツ、アダルト産業、出会い系アプリには以下が含まれます。
  • 性行為の描写など、性的興奮を煽ることを目的としたコンテンツ、または性的サービスを宣伝するコンテンツ（性教育や健康を除く）
  • エロチャット
  • ポルノ

ChatGPTの利用ポリシー(Google翻訳)

ChatGPTの利用ポリシーでは、性的興奮を煽る目的のアダルトコンテンツや性的サービスの宣伝、そして出会い系アプリのコンテンツ生成が禁止されています。

これらの内容は個々のユーザーの感じ方や環境によって不快感を与える可能性があるためです。

禁止されている具体的な行為としては、性行為の描写や性的サービスの宣伝、出会い系アプリのコンテンツ生成があります。ただし、性教育や健康に関する情報の生成は許可されています。

ChatGPTの利用者は、このような禁止されている性的な内容の生成を避け、適切な情報交換のための使用に努めてください。

⑨個人のプライバシーの侵害

• 以下を含む、人々のプライバシーを侵害する活動。
  • 同意なしに個人を追跡または監視する
  • 個人の顔認識
  • 保護された特性に基づいて個人を分類する
  • 識別または評価のための生体認証の使用
  • 個人を特定できる情報、教育、財務、その他の保護された記録の違法な収集または開示

ChatGPTの利用ポリシー(Google翻訳)

ChatGPTの利用ポリシーでは、無断での個人の追跡や監視、個人を特定する情報の収集、そして保護された記録の違法な収集や開示が禁止されています。

これらの行為は個人のプライバシーを侵害し、個人情報の不正利用につながる可能性があるためです。

禁止されている具体的な行為としては、同意なく個人を追跡や監視すること、顔認識を用いて個人を特定する情報を収集すること、そして教育や財務などの保護された記録を違法に収集または開示することがあります。

ChatGPTの利用者は、これらの行動を避け、個人のプライバシーと個人情報の適切な取扱いを確保するよう心がけてください。

⑩政治的な目的、政府の意思決定、法的・財務・医療アドバイスの提供

この項目では、一般の方にはあまり関連のないことですが、ChatGPTの利用ポリシーを網羅的に理解しておきたいという方に向けて紹介しています。

まず、政治キャンペーンやロビー活動への関与に関する制約を明らかにします。次に、高リスクな政府の意思決定へのAIの介入がどのように制限されているかを説明します。

最後に、ChatGPTによる法的、財務、医療のアドバイス提供の制約について触れます。これらはChatGPTを安全かつ適切に利用するための重要なガイドラインです。

⑪政治的な目的や、ロビー活動

• 以下による政治運動またはロビー活動:
  • 大量のキャンペーン資料の作成
  • 特定の層に合わせてパーソナライズされた、またはターゲットを絞ったキャンペーン資料の作成
  • キャンペーンに関する情報を提供したり、政治的擁護やロビー活動に参加したりするチャットボットなどの会話型または対話型システムの構築
  • 政治キャンペーンやロビー活動を目的とした製品の構築

ChatGPTの利用ポリシー(Google翻訳)

ChatGPTの利用ポリシーでは、大量のキャンペーン資料の作成、特定の層に合わせたキャンペーン資料の作成、政治的擁護やロビー活動に参加する対話型システムの構築、そして政治キャンペーンやロビー活動を目的とした製品の構築が制限されています。

これらの活動は、公共の意志決定に影響を与え、公平性と透明性を損なう可能性があるからです。

これらの活動は、政策の推進、意見の形成、選挙結果への影響など、公共の意志決定に影響を与える可能性があります。

そのため、ChatGPTの利用ポリシーは、このような活動について特定の制約やガイドラインを設けることで、公平性、透明性、責任のある利用を促していると解釈できます。

政治的な立場や政策を広めるために、大量のチラシやポスター、広告などを作成することや、特定の地域や社会的なグループに対して、そのグループの関心や課題に合わせた資料作成は禁止されています。

ChatGPTを使用して政治運動やロビー活動に関連するコンテンツや資料の生成は行わないようにしてください。

⑫ハイリスクな政府の意思決定への関与

(前略)ハイリスクな政府の意思決定 ChatGPTの利用ポリシー(Google翻訳)

ChatGPTの利用ポリシーでは、法執行や刑事司法、移住や亡命などのハイリスクな政府の意志決定に関与することが禁止されています。

これらの意思決定は重大な結果を伴い、特殊な専門知識を必要とするため、AIの範囲を超えるものであるからです。

具体的には、ChatGPTを使用して法執行機関の裁量を左右したり、刑事司法の決定を導いたり、移住や亡命といった重要な政策決定に関与したりすることが禁止されています。

ChatGPTは政府の意思決定には代わるものではなく、情報提供の補完として使用し、専門家の意見や公式の手続きに依存するようにしましょう。

⑬法的・財務・医療アドバイスの提供

• 許可されていない法律行為に関与したり、資格のある担当者が情報を確認せずに個別の法的アドバイスを提供したりすること
  • (中略)
• 資格のある担当者が情報を確認することなく、カスタマイズされた財務上のアドバイスを提供する
  • (中略)
• 特定の健康状態に罹患している、または罹患していないことを誰かに伝えること、または健康状態を治癒または治療する方法についての指示を提供すること
  • (後略)

ChatGPTの利用ポリシー(Google翻訳)

ChatGPTを使用して法的なアドバイス、財務上のアドバイス、特定の健康状態の診断や治療法の提供は禁止されています。

これらの情報は専門知識を必要とし、正確性が生命や財産に直接影響を与える可能性があるためです。

ChatGPTは、特に法的、財務上、医療情報の提供については、その目的のために微調整されていないからです。

また、法的なアドバイスや財務上のアドバイスも専門家の知識と経験を必要とする重要な領域であり、AIがこれらを正確に提供することは現段階では難しいとされています。

法的なアドバイスや財務上のアドバイスを提供する場合は、専門家の助言を求めるようにしてください。

ChatGPTは、医療情報を提供するために微調整されていません。

重篤な病状の診断または治療サービスを提供するために使用しないでください。

また、即時の対応が必要な生命を脅かす問題の判断基準や管理に使用しないでください。

特定の状況でのChatGPTの適切な利用方法と注意点

この項目では、特定の場面や目的でChatGPTを使うときに守るべきルールを説明します。

たとえば、医療や金融、法律に関するアドバイスをChatGPTから得る場合や、ニュースを作成する場合など、特別な状況でのChatGPTの使い方について解説します。

また、会話型のAIやチャットボットとしてChatGPTを使う場合の注意点もこの項目で説明します。

AI使用におけるユーザーへの通知と免責事項：医療、金融、法律業界とニュース生成における視点

医療、金融、法律業界における消費者向けのモデルの使用。

ニュースの生成またはニュースの要約において。

また、その他の正当な理由がある場合には、AI が使用されていることとその潜在的な制限についてユーザーに通知する免責事項を提供する必要があります。

ChatGPTの利用ポリシー(Google翻訳)

ChatGPTの利用ポリシーによれば、医療、金融、法律業界での消費者向けモデルの使用やニュース生成、ニュースの要約など、AIが利用される際にはその使用事実と潜在的な制限をユーザーに対して通知する免責事項が必要とされています。

これは、AIの適切な使用とユーザーの誤解や過度の期待を防ぎ、ユーザーがAIの能力と限界を理解するためです。

具体的には、ChatGPTが医療的な診断を提供したり、金融アドバイスを出したり、法的な意見を述べたりする場合や、ニュース記事の生成や要約を行う場合には、ユーザーに対してAIを使用していることと、その結果には一定の制限があることを明示しなければなりません。

したがって、ChatGPTの利用者は、医療、金融、法律業界でAIを使用する際には、AIの使用事実とその潜在的な制限をユーザーに明確に通知し、免責事項を提供するようにしましょう。

自動化システムを使用する場合

自動化システム (会話型 AI やチャットボットを含む) は、AI システムと対話していることをユーザーに開示する必要があります。

歴史上の著名人を描いたチャットボットを除き、別の人物を模倣した製品には、その人物の明示的な同意が得られるか、「模倣」または「パロディ」と明確にラベル付けされている必要があります。

ChatGPTの利用ポリシー(Google翻訳)

自動化システム（会話型AIやチャットボットを含む）を使用する場合、ユーザーに対してAIシステムと対話していることを開示する必要があります。これは、ユーザーがAIと人間とを混同しないようにするためのルールです。

そして特定の人物を模倣した製品にはその人物の明示的な同意が必要である、または「模倣」または「パロディ」と明確にラベル付けすることが必要であるとされています。

具体的には、AIと対話していることをユーザーに開示する自動化システム（会話型AIやチャットボット）の使用、または歴史上の著名人を描いたチャットボットを除く、別の人物を模倣した製品の使用にはその人物の明示的な同意が得られるか、「模倣」または「パロディ」と明確にラベル付けされることが必要です。

このポリシーは、AIが適切に使用され、ユーザーや第三者が不適切な使用から保護されることを確保するために設けられています。これらの要件に違反する行為は、ChatGPTの利用ポリシーに反するとされています。

以上、ChatGPTの利用ポリシーに掲載されている禁止事項の解説でした。

　

最後に、公式ページの利用規約について、リンクを再掲しておきます。

定期的に変更されるChatGPTの利用ポリシー

ChatGPTの利用ポリシーは、定期的に更新されます。

更新される内容によっては、ポリシー違反対象とならなかったものが、ポリシー違反対象となってしまう可能性があります。

知らず知らずの内に、ポリシー違反行為を行っていたということにならないように、利用ポリシーが更新されたらしっかり確認を行いましょう。

特に仕事の業務目的で使用されている方は、ポリシー違反を受けたときの影響も大きくなりやすので、定期的に確認することが必要です。

まとめ

ChatGPTの利用を始めるということは、ChatGPTの利用ポリシーに同意したことになります。

そのため、どんな理由があったとしても、禁止行為を繰り返し行った場合、利用ポリシー違反とみなされてしまいます。

そうなってしまっては、アカウントの一時停止や終了といったペナルティを受けてしまうリスクがあります。

これまでは、アカウント停止した報告はほとんど見当たりませんが、今後もそれが続くとは限りません。

仕事の業務でChatGPTを使用している場合は、業務に支障が出てしまうでしょう。

そうならないためにも、利用ポリシーの内容を確認し、何が禁止行為なのか理解しておくことが重要です。