その人の動画は時事を話すんだけど、画像は無関係な街中とかビーチの画像が主で、仕事が信託らしくて投資の話とかよくあるんだよね。だから、話していることが投資、画像映像は話と無関係、チャンネル名も投資も画像も互いに連想されない、と言うミスマッチが、怪しいと判断されたんじゃないかと本人が推察してた。
ていうか、一言でいえば、GPTは一つの視点だけで使ってはダメということを念頭に置いて欲しいということっす
AIは「協力的であろうとする傾向」がある。
ユーザーが
自分は不当BANされたと思う
という前提で相談すると、その前提を検証するよりも、
なるほど、不当BANなんですね。では復旧申請文を考えましょう。
という方向に流れやすいことがある。
これは「ユーザーの問題解決を手伝おうとする最適化」の副作用に近い。
さらに厄介なのは、後から質問の仕方を変えると別の観点が出てくること。
例えば、
* 「このBANは不当ですか？」
* 「私が審査員ならどこを疑いますか？」
* 「反対側の立場で徹底的に批判してください」
では、出てくる答えがかなり変わる。
だから高リスクな場面では、AIに一度だけ聞いて終わりにするのは危険で、
* 自分側の主張
* 相手側の主張
* 最悪ケースの想定
* 反論の余地
をそれぞれ別々に聞く方が安全だったりする
GPTの基本動作である「当たり障りのない回答に傾向する」アジャストメントが原因で、危機に陥った人がいてね。YouTube で時事を扱う極めてまともな人のチャンネルなんだけど誤Banされたことがあって、そのとき理由が全然わからないからその人は自分がもつ動画とテキストをGPT に伝えて、何がbanなのか理由を推察しようとしたんだけど、gptは、「悪いところは全くないので、強気でチャンネル再開申請しましょう。るたとえばこんな文章」みたいな回答になってて、それを信じてチャンネル再開申請を送ったら、YouTube からは「再申請の結果はポリシー違反があるため申請を却下しました。これは最終決定です」という回答がきたんだよね。そこでgptに状況を言ってどう言うことなのか聞いてみたら、実は最初の回答は忖度がありまして、ここはこうするべきだと言うような指摘が何箇所もあったと言う。一度しかないチャンスでデフォルトのgptに意見を求めてはいけない、という教訓になったそうだよ。結局その人は日本のYouTube に正規の方法意外で直訴するチャンスを見つけて、人間の目でチャンネルを検証して、復帰することができたって。