ポイズンピル

業界の搾取性や不誠実さをしばしば論じるBenn Jordan氏による新しい動画ですね。CDMでも取り上げられています。

誠実にAIのトレーニングを行なっている有志を出し抜く形でAIをトレーニングする連中がいて、投資もそちらに偏りがち（その真偽について、ここでは措いておく）なので、そうした勝手なトレーニングを妨害する仕組みを作ったよ、だけどコストかかり過ぎるのと、抜け道があるのと、いたちごっこになっちゃうよね、みたいなお話とお考えいただくとよろしいかと。

AIが教材から学習しているのは雑にいうとそれらをパラメータ化したものであって、人間の聴覚とは異なるんですよね。人間の知覚できないものをデジタルオーディオデータに埋め込み、それを再生することでスマートスピーカー経由で住人を攻撃できたりするみたいな話と通ずるとこがあります。
これを利用してパラメータを崩し、学習を妨害するというのが上の動画におけるお話。とはいえ言うは易しで、これを実際行うとなると手間暇と金が膨大に費やされます。

私自身はAIウェルカムで、色んなアレコレがより効率よくなるならと信じているからなのだけど、動画見てたら、ああ、ちょいと平和ボケし過ぎではあったかと思い直したとこです。
それを言い出したらAIに限った話でもなく。
歓迎のつもりで両手上げたら丸腰をいいことに銃でいいように撃たれる。ってくらいに無警戒すぎてもいかんよなと。

AI使わずに音楽づくりするのは苦労含めて楽しいってのは一理あります。
が、動画でも言われてるように、ある程度の経験値があれば、思い通りのものを作るために夜通しプロンプトいじるくらいなら自分で作っちゃったほうが早いし、微調整もラク。たしかにね。
出来上がったものにおかしなところがないかチェックするのに時間かけるくらいなら自分で作っちゃったほうがラク。これもたしかにね。だけど、じゃあExcelの関数やマクロを信用しないのかというと、これはちょっと違う。じゃあ線引きとか悪意（や恣意）の入り込む余地の話になってくるんかな。
なので現状、AIに対しては面倒事に限って押し付けるのが結局順当な活用法になってきそうですし、それ以外の部分は結局能力として自分が培っていかなきゃいかない部分なのだろうと思いました。