ChatGPTに書かせた過去の判例が嘘まみれと発覚。書類提出の弁護士に制裁の可能性
https://www.techno-edge.net/article/2023/05/29/1354.html

というニュースがある一方、どこぞの大学じゃ学生に使わせるニュースも流れているChatGPT。

毎日新聞で東洋大学が全学生にChatGPTの最新言語モデル使わせる記事に 「人種差別などを助長する回答をしないように相当訓練されていた点も驚き」 というコメントがあり、とてもじゃないがAIに楽観すぎると思ったのです。

単に、

「新技術に対してネガティブに守りに入るな。 リスクを研究しつつも、ポジティブに活用する途を探り給え。 諸君の若き知性には期待している！」

とぶん投げてたら、私も「ほぅ…？」くらいは思ったんですけどね。

何せ私のツイッターTL上でも、

chatGPTに犯罪計画を立案してもらってたけど。スケベが単語規制されてるのに殺人を想起させるワードはスルーなのは妙な話だ。やはり血と暴力は老若男女問わず人類の共通娯楽…。https://twitter.com/abubu_newnanka/status/1663244133492994050?s=20

という話が。

これは、私の厳選TLに流れるくらい、あいつの規制は緩いぜって話ですよ。
東洋大学の研究者は、悪意ある捏造論文の査読するくらいの気概でチェックすべきだったと思います。（訳：仕事してねーのでは？）

そしてヴィクトリア朝時代のレシピ本『ミセス・クロウコムに学ぶ ヴィクトリア朝クッキング 男爵家料理人のレシピ帳』が、除外したという『レタスの砂糖漬け』が本日のお題です。

当時のレタスって、品種改良されまくった現代レタスよりはるかに、エグくて苦くて匂いもすんぎょいもんな気がする。
ChatGPTに、「以下の項目をGoogle検索で調査をしなさい」で三項目に分けて指示したら３つともバラバラに調べた結果だしてきやがりました。 「対象・植物のレタス栽培 期間・英国のヴィクトリア朝時代に該当する期間　・結球レタスかどうか」 とか言ったのにYouTubeや現代農業の話しだす。

「英国のヴィクトリア朝時代における農業、レタスの栽培について調べなさい。」 と指示しても、似たり寄ったりの具体的情報が無い一般論ばかり列挙。
末尾でようやく、具体的なヴィクトリア朝時代の農業やレタス栽培の詳細な情報を得るためには、専門書や歴史資料を参照することがおすすめです。 とか言うので

「具体的なヴィクトリア朝時代の農業やレタス栽培の詳細な情報を得たいです。パブリック・ドメインで公開されている専門書はありますか？」

と聞いたら３つほど挙げてきました。 本当かよ？という疑念しかない。
いちおう３つとも検索かけてみたら、実在する本でしたし、パブリック・ドメインで公開されている本でした。 試しに、 “Farm Crops” by John Wrightson (1893) だけ目次を読んでみましたが、レタスの話は無かったです（キャベツや小麦や家畜用カブの話ならあった）。

一般公開型ChatGPTで調べがつくようなことは、自分で調べたほうが早い。 という確信が深まりましたね。

「AIの回答してきた書名は本当に存在するのか……？」

からスタートする調査の、何がどう革新的な技術だというのか。

補助的にChatGPTへ、
「何々時代の期間における、農業栽培の指南書を調べなさい。」
くらいは質問して、検索時の書名単語の参考にする。その程度の補助能力はある、といえるでしょう（結局検索かけるのは人間、検証するのも人間）。