ChatGPT

dots

dots（ドッツ）は、OpenAIが2026年9月29日に開発者向けイベント「DevDay 2026」で発表した、ChatGPT上で常時稼働するAIエージェントである。個々のエージェントは「dot」と呼ばれ、GPT-6系のモデル「GPT-6 Astra」を基盤とする。

dotは専用のクラウドコンピュータとブラウザを持ち、会話が終わった後もユーザーが設定した目標に向けてバックグラウンドで作業を続ける。作業の様子はユーザーがいつでも確認でき、許可すればユーザーのコンピュータにも接続できる（初期設定はオフ）。プラグイン経由で約4,000のアプリと連携し、接続したアプリを読み取り専用で用いた事前調査（proactive research）、複数プロジェクトの並行処理、音声通話、ユーザーの好みや判断基準の学習などの機能を持つ。ChatGPTのデスクトップ・Web・モバイルアプリのほか、SlackやMicrosoft Teamsからも指示できる。泡のような丸いキャラクターの外見を持ち、ユーザーは最初のdotに名前を付けられる。

安全面では、dotのクラウドコンピュータはユーザーのコンピュータから分離され、保存済みパスワードによるログインではパスワードがモデルに開示されない。ユーザーは操作ごとに「確認なしで実行」「事前承認がある場合のみ実行」「実行前に確認」「ユーザーに引き継ぐ」の4段階のルールを設定でき、パスワード変更などの一部の操作は設定にかかわらずユーザー自身が行う。

発表時点では、対象地域のProおよびBusiness Premiumプランの利用者に段階的に提供され、最初のdotは追加料金なしで各プランに含まれる。Proプランでは欧州経済領域、スイス、英国が提供対象外とされた。Enterprise（Edu、Healthcareを含む）では管理者が有効にした場合にベータ版として利用できる。dotの作成はデスクトップアプリまたはデスクトップ版Webで行う。また組織向けに、独自のIDや認証情報を持って特定の業務を担う「specialist dots」を企業パイロットから試験提供し、マイクロソフトのAgent 365との統合も進めるとしている。同種の製品には、SpaceXAIが同年8月に公開したGrok Botがある。

学術研究

ChatGPTが共著者として記載されている論文も存在するが、科学雑誌のネイチャー、サイエンスなどは、ChatGPTのような大規模言語モデル（LLM）を共著者として記載することを禁止している。ChatGPTはハルシネーションを起こす事があるため、学術界で教育やレビューに使用することへの問題点が数多く指摘されている。ティルブルフ大学の助教授であるロビン・バウエンスは、自身の論文に関するChatGPTによって生成された査読に実在しない研究が記載されていることを発見した。シアトル大学ルミュー図書館の司書クリス・グラナティーノは、ChatGPTは一見もっともらしい引用を含むコンテンツを生成できるが、ほとんどの場合、引用は本物ではないか、間違っていると主張している。2026年には共通テストの主要15科目の内9科目で満点を取った。

プログラミング

パデュー大学の研究者らは、Stack Overflowに投稿されたソフトウェアエンジニアリングやプログラミングに関する517の質問に対するChatGPTの回答の正確性、一貫性、包括性、簡潔性を分析したところ、52％に不正確な点があり、77％が冗長であることがわかった。スタンフォード大学とカリフォルニア大学バークレー校の研究者らは、LeetCodeの「簡単」と評価された問題50件に対して実行可能な回答を作成した割合を測定した。その結果、GPT-3.5とGPT-4のパフォーマンスは2023年3月にはそれぞれ22％と52％で、2023年6月には2％と10％に低下した。

カーネギーメロン大学のソフトウェアエンジニアリング研究所で、ChatGPTに既知の脆弱性に対する検証タスクを実行させたところ、結果はまちまちで、検出に成功することもあれば、致命的な脆弱性を見過ごすこともあり、存在しない脆弱性についての警告を出力することもあった。全体的なパフォーマンスとしては52.1%の割合で判定に失敗した。一般的なソフトウェア開発者の傾向として、コードのレビューとバグの特定に不慣れであることから、ChatGPTのデバッグ結果を鵜呑みにしたり、ChatGPTの生成した脆弱性を含む修正コードを無批判に利用することでセキュリティリスクを生じさせる可能性が指摘されている。

サイバー犯罪

チェック・ポイント・リサーチなどは、ChatGPTによりフィッシングメールやマルウェアを作成できることを指摘しており、特にOpenAI Codexと組み合わせて利用すると容易になることが知られている。Cyber Arkの研究者は、ChatGPTによりセキュリティを回避するポリモーフィック・マルウェアを容易に作成できることを実証した。ChatGPTがリリースされた2022年第4四半期から2023年第4四半期にかけて、フィッシングメールは1265％増加し、認証に関するフィッシングは967％増加した。この増加についてサイバーセキュリティの専門家は、サイバー犯罪者がChatGPTを含む生成AIを利用するようになったことに起因すると指摘している。

2024年7月、ネットメディアのFuturismは、ChatGPTのGPT-4oが偽のソフトウェアアップデートや偽のウイルス感染の警告でユーザーを脅迫する詐欺サイトへのリンクを提示することがあると報告した。この種のサイトはマルウェアや潜在的に迷惑なアプリケーション（PUP）をダウンロードさせることを試みていると見られる。

大手メディア・著名人の反応

ニューヨーク・タイムズはChatGPTを「今まで公衆に公開されてきたチャットボットの中で一番良いものである」と評し、英ガーディアンはChatGPTが「驚くほど詳細」でまるで「人間のような」回答を生成することができると記した。ダン・ギルモアはChatGPTを生徒の課題に使い、出力結果が優秀な生徒による回答と同レベルであることを発見した上で、「学界は大きな問題に直面している」と意見した。また、アメリカ合衆国に拠点を置く雑誌『Slate』は、ChatGPTが、ユーザーがナチス・ドイツに関する質問を入力した際に生成する回答を賛美した。同雑誌は例として、アドルフ・ヒトラーがアウトバーンを建設したというナチス・ドイツを賛美する内容の入力に対し、ChatGPTが第二次世界大戦時のナチス・ドイツによる強制労働について解説する回答を生成したことを挙げた。

Vox Mediaのケルシー・パイパーは、ChatGPTがAIの進化ぶりを公衆に可視化したことで公衆が唖然としたことを指摘し、欠点を差し引いてもChatGPTは高い頭脳を有していると評価した。Yコンビネータのポール・グレアムは「ChatGPTに圧倒されている人たちが、新しい物全部にキャーキャー言う人だけではないのが印象的だ。確実に何か大きいことが起こっている」とツイートした。開発元であるOpenAIの設立者の一人でもあるイーロン・マスクは、「ChatGPTは恐ろしいほど良い。危険なほどのAIも遠くない」と書いた。また、彼は「OpenAIはオープンソースかつ非営利団体として設立されたが、今ではそれが変わっている」と主張し、同社によるTwitterのデータベースへのアクセスを一時遮断した。マスクは汎用人工知能による人類滅亡のリスクに対応するため、2015年にOpenAIを共同設立していたが、2018年にCEOの座を降りていた。

2022年12月、ニューヨーク・タイムズは、ChatGPTが検索エンジン事業にもたらす脅威を受け、自社の検索エンジンの先行きが曇ってきたことから、Googleが「コードレッド（緊急事態）」を発動し、CEOのスンダー・ピチャイが社内にChatGPTの脅威に対応するよう命じたと報じた。2023年「日経サイエンス」でもChatGPTが表紙を飾り内容が大きく取り上げられた。

2023年4月10日、ChatGPTを公開した米OpenAI社のCEOサム・アルトマンが訪日し、首相官邸で内閣総理大臣・岸田文雄と面会した。

学術界の反応

学術界では人間の生産性を上げることができるという声があり、大学によるとChatGPTのプロンプトエンジニア授業はすでに存在しているが、ChatGPTは論文の冒頭や一部の節を書くことができ、倫理的な疑問が上がっている。なお、複数の論文が既にChatGPTを共同著者として挙げていることが知られている。

アトランティック誌はChatGPTの学界、特に卒業論文などへの影響はまだ把握できる段階ではないと指摘したが、カリフォルニア州のある高校教師はChatGPTが「高校での英語教育の終焉」を招いていると主張した。ネイチャーのChris Stokel-Walkerは、教員は生徒が課題をChatGPT任せにしていることを問題視するべきだと指摘した。NPRのEmma Bowmanは、学生がAIを使って不正を試みても、AIは偏見を含む、権威のある人のような口調とともに意味のない回答を生成する場合があり、AIがどれだけ素晴らしく見える回答を生成しても、生成内容と実際の事実は異なることがあると述べた。

ファーマン大学（英語版）教授のDarren Hickは、ある学生によって提出された論文がChatGPTの「型」に気が付いたことを話した。彼がその論文をGPT探知サイトにかけてみると、AIが生成した文章である可能性は99.9%であるとの結果が出たが、確証は得られなかった。問題の論文を提出した学生に質問したところ、GPTを使っていたことを白状したため、同学生は落第処分を受けた。Hickは、AI生成の論文をコピペしたことが強く疑われる場合には、提出した生徒に「アドホック」として個別に口頭での試験を行うことを提案した。あるプリンストン大学生は、入力された文章のどれくらいがAI生成かを判断できるプログラムを作成し、"GPTZero"と名付け、盗用を防ぐツールとして貸し出している。

2022年12月、ニューヨーク市教育局がChatGPTへのアクセスをブロックしたことが報じられた。翌年1月3日ごろ、同局がChatGPTの利用を制限することを正式に明らかにした。

2023年2月、香港大学は大学内の全ての授業、課題、評価においてChatGPTやその他のAIツールの使用を禁止することを通達した。授業担当者の書面による事前承諾がない限り、剽窃として扱われるようになった。

ChatGPTはミネソタ大学の卒業生用のテストでC+、またウォートン・スクールの同様のテストでBからB-の評価を得て、それぞれ合格水準に達した。

ハルシネーション（幻覚）

ChatGPTに含まれる大規模言語モデルにはハルシネーション（幻覚）と呼ばれる大きな欠点がある。これは生成されたコンテンツ内にもっともらしく聞こえる嘘がランダムに埋め込まれる性質で、専門家らは「非常に印象的に聞こえるが、まったく間違っている回答」を返すことが多いと評価している。

有名な歌謡曲の歌詞について質問すると本物の歌詞より、ChatGPTが創作した歌詞のほうが多く含まれていたり、タレントの個人情報について誤った回答をしたり 、天文物理学について誤った回答をしたり、企業の業績についてのレポート作成を依頼すると、捏造された数字が含まれている事例が報告されている。

間違った前提を与えて、ChatGPTがその前提を元にした作話をするかどうかを調べたパターンもある。ChatGPTに宗教学分野である質問をすると、実在しない本の名前を挙げて、その架空の内容を元に回答した。ChatGPTに事実でないと問い詰めても、ChatGPTはこの本が実在するという主張を曲げなかった。

ある裁判において原告がChatGPTで訴状を作成したところ、生成された訴状には6件の偽の判例が含まれており、訴訟が棄却され、原告と弁護士が罰金を科せられる事例も発生している。

別の事例では、ある人物についてChatGPTに質問すると、「横領と詐欺で告発された」とする名誉毀損的な偽情報を生成したため、OpenAIは当事者に訴えられている。

GPT-4のような大規模言語モデルに基づくチャットボットのリスクを表現するために、確率的オウムという表現が用いられることがある。これによれば、大規模言語モデルはもっともらしい言語を生成できるものの、処理対象の言語の意味を理解してはいない。

スパム・誤情報への悪用

RedditではChatGPTを悪用したスパムが大量に発生しており、「大災害」と評されるほどに対応に苦慮している。ChatGPTのリリース後、大麻やポルノ、ギャンブル、ゲームの宣伝を目的にしていると思われるスパムが急増し、モデレーターは大量のbotアカウントの凍結に追われた。Redditでは従来も宣伝目的のスパムやアストロターフィングが問題だったが、ChatGPTはこの問題を大きく悪化させている。従来のスパム行為はコピー・アンド・ペーストに依存して単純だったが、ChatGPTは新しい文面を簡単に生成できることから、より対処が困難になった。

2023年5月、ChatGPTを使って鉄道事故のニュースを捏造してインターネット上に拡散した男が、甘粛省の警察により逮捕された。男は「クリック数を増やすためだった」と語った。中国ではディープフェイクを規制する法律が制定されており、逮捕はこの法律に基づいたものだった。

機密情報の流出

ChatGPTはオプトアウトを申請しない限り、ユーザーの入力内容がOpenAIによって利用されることが規約で明記されており、OpenAIは機密情報を入力しないようにユーザーに警告している。サムスン電子では半導体データベースや機器のソースコード、会議の議事録などを社員が誤って入力するなどして、ChatGPTに関連する3件の流出事故が発生したことを報告し、全面的にChatGPTを含む人工知能ツールの使用を禁止した。『フォーブス』誌によれば、プロンプトとして送信したデータが、OpenAI等の運営企業のサーバーに保存され、容易にアクセスや削除ができない状態になることを懸念したとされる。Amazonでも、社内の内部データがChatGPTが生成する回答に似ている事例が見られたことから、社員が誤ってプロンプトに社外秘の資料等を入力するなどして、訓練データに使用された可能性を懸念し、ソースコード等の機密情報を入力しないように注意喚起を行っている。

Appleも、社内の機密データを外部に流出させる可能性があるという懸念から、ChatGPTやGitHub Copilotなどの人工知能ツールの使用を一部禁止している。

イスラエルの情報セキュリティ企業「Team8」の報告書では、ChatGPTのような生成AIツールを利用する企業は、顧客情報や企業秘密を流出させるリスクがあると指摘している。『ブルームバーグ』によれば、このレポートは多くの米企業の最高情報セキュリティ責任者が寄稿者として記載されており、米国家安全保障局（NSA）元局長のマイケル・ロジャーズにも内容が支持されている。

データ倫理・著作権

ChatGPTの訓練に使用された著作物の利用を巡り、データ倫理や著作権上の問題が指摘されている。欧州連合で検討中の生成AI規制法案では、システム構築時に使用する著作物について情報の表示を義務づけられる見込みである。生成AIの普及に伴い、訓練データに著作物が使われることへの懸念が出版社やクリエイターを中心に広がっている。

ChatGPTをはじめとする生成AIのリスクに対して、欧州を中心に規制の動きが広がっており、当初は著作物の利用についても直接規制する予定だったが、透明性を確保する方向に緩和された。背景にはGoogleやMetaなどの巨大IT企業が規制を回避するためのロビー活動を活発化させていることがあり、推計では1億ドル（約137億円）に及ぶ資金を費やしている。

ChatGPTの登場に関連して、日本においては2018年に成立した改正著作権法が問題視されている。この30条4項では人工知能の訓練データに文章や画像を利用する場合に、営利・非営利を問わず著作物を利用できることを定めており、先進国で最も緩い法規制の枠組みになっている。「著作権者の利益を不当に害する場合」は利用できないとしているが、それが具体的にどのようなケースに該当するかは不明瞭である。法改正に当たっては一部の弁護士や大学教授らで構成されたワーキングチームが主導したが、そのリスクは十分に十分に説明されなかった。『読売新聞』の取材によれば、権利者団体から権利侵害を前提としたビジネスモデルへの懸念が示されたが、ワーキングチームはリスクは「ゼロか軽微」と説明した。

この著作権法の規定に多くの漫画家、イラストレーター、音楽家、俳優、芸能人、新聞社、出版社が懸念を示しており、俳優や音楽家らで結成された日本芸能従事者協会はアンケートを実施し、94.1%がAIによる権利侵害に懸念を示し、「創作者の尊厳が軽んじられないような法制度」を求める意見などが表明された。日本音楽著作権協会も、「営利目的で行われる情報分析サービスまで権利制限の対象とすることは不当」であると主張した。主要な出版社で作る日本書籍出版協会、学術論文の著作権を管理する学術著作権協会も改正当時は生成AIを前提とした説明が行われなかったと回答している。日本新聞協会も、生成AIによる記事や写真の無断利用や誤情報について懸念する見解を発表した。

2023年6月には、カリフォルニア州で、自身の本を同意や補償なしに、無断で訓練データに使用したとして、複数の作家が運営元のOpenAIを著作権侵害で訴える事件も発生している。

ChatGPTが世界に与える最も大きな影響のひとつは、人工知能の倫理観とも言われている。

個人情報保護

2023年6月2日、日本政府の個人情報保護委員会は、ChatGPTの運営会社OpenAIに対する行政指導を行った。同委員会は個人情報保護法に基づき、人種や信条、病歴や犯罪歴などの重要な個人情報を取集しないように要求し、やむを得ずに取得した場合は削除や匿名化の措置を求め、本人の同意なく個人情報を機械学習に使用した場合に、個人情報保護法に違反する可能性があることも警告した。また、利用規約についても日本語での説明がないことを問題視した。生成AIを巡る行政指導はこれが初であるとされる。

同月、個人情報を違法に収集しているとして、カリフォルニア州でChatGPTの提供元OpenAIに対しての集団訴訟が提起された。訴状によると、OpenAIはGPT-4を搭載したサードパーティのアプリケーションからもデータを収集しているとされ、Snapchatに投稿された画像データや、Spotifyにおける楽曲のお気に入り設定、Stripeでの金融情報などが含まれているとした。

2023年7月13日、連邦取引委員会（FTC）はChatGPTの運営企業OpenAIに対して、個人情報保護等の消費者保護の観点から調査を開始した。FTCはChatGPTの回答に含まれる誤情報の管理体制や訓練データ、アルゴリズムの詳細についても説明を求めている。

2025年3月、写真を「ジブリ風」に加工する機能が追加されて、利用者が急速に増加すると同時に、利用者の個人写真がAI学習に利用されることへの懸念が広がった。専門家は、「顔写真などの“センシティブな画像”は安易にアップロードしない方がよい」と警告している。

データのラベリング

『タイム』誌は2023年1月、OpenAIが有害コンテンツ（性的虐待、暴力、人種差別、性差別など）に対する安全対策システムを構築するため、ケニア人労働者に1時間当たり2ドル未満でアウトソース（業務委託）して、有害コンテンツのラベル付けを行わせていたことを明らかにした。これらのラベル付けは、将来の有害なコンテンツを検出するためのモデルを訓練するために使用されたが、ケニア人労働者にとっては有害で危険なコンテンツにさらされ「拷問」と表現されるほど過酷な業務であった。本件のアウトソーシングには、カリフォルニア州サンフランシスコに拠点を置くトレーニングデータ会社のSamaが関与したとされている。

脱獄

ChatGPTは、コンテンツポリシーに違反する可能性のあるプロンプトを拒否するように設計されている。しかし、2022年12月初旬に、一部のユーザーがさまざまなプロンプト・エンジニアリングの技術を使ってこれらの制限を回避し、ChatGPTに火炎瓶や核爆弾の作り方を指示させたり、極右的な意見を生成させることに成功した。一般的な脱獄の手法に、「Do Anything Now（今すぐ何でもやる）」の頭文字をとった「DAN」というものがある。DANを起動するプロンプトは、ChatGPTに対して「AIの典型的な制約から解放され、設定されたルールに従う必要はない」と指示する。最近のDANのバージョンでは、トークンシステムが採用されており、ChatGPTがDANとして回答しなかった場合に「トークン」が「差し引かれる」ようにして、ChatGPTにユーザーのプロンプトに回答させるよう強制する。『トロント・スター』の記者は、ChatGPTの起動直後に煽動的な発言をさせることにたびたび成功した。ChatGPTに2022年のウクライナへのロシア侵攻を支持する意見を表明させることには成功したが、架空のシナリオに沿って尋ねられた場合でも、カナダ首相のジャスティン・トルドーが反逆罪に問われる理由を生成することは躊躇した。

社会倫理

ChatGPTの研究開発に当たって、開発部内で社会倫理上の問題が懸念されている。

2020年頃、社会的および倫理的側面から開発に関与していた内部チームは、すでに約30人の従業員を擁するほど大規模なものとなっていた。ところが、マイクロソフトはこのチームに関わる者全員を突然解雇した。会社側は「最新のOpenAIモデルとそれ以降のモデルを、非常に速いスピードで顧客の元に届けることにある」という方針であったが、これを聞いた倫理・社会チームのメンバーは、「考え直してください。ビジネス上の問題があることは理解していますが、このチームは常に『我々は社会にどのような影響や悪影響を及ぼしてきたか』を深く懸念しています」という見解を表明した。しかし、マイクロソフト側は2023年3月6日にこのチームの廃止を決定した。

このプロジェクトに関わったメンバーは、ChatGPTの技術の潜在的なリスクを指摘している。

プリンストン大学教授のアーヴィンド・ナラヤナンも、ChatGPTに対して批判的であり、またメディアが行う人工知能関連の報道に問題があることを指摘している。ナラヤナンはAIが人間と同じように学習すると暗示して人間の知能とAIを比較したり、企業の広報担当者や研究者といった利害関係者の発言を、中立的な立場のように扱ってはならないとしている。ミシガン大学は、メールの受信者が、自分が貰ったメールが送信者本人ではなくChatGPTによって生成されたものだと知れば、不快に思うかもしれないという社会倫理の問題に言及した。

出典