生成 AI

2025/7/26時点のslopの翻訳

訳注:

slop という単語の本来の意味は『こぼすこと』や『こぼれた水』や『残飯』ですが、スラングでは『生成 AI が生成した低品質なコンテンツ』を指します。

生成 AI に対する Asahi Linux の懸念、特に機密情報の取扱いに関しては理解できますが、この文書は生成 AI に対して法的面でも技術面でも不適切な内容を含むと思ったので、他の日本語訳と異なりおかしいと思うところにはちゅうちょなく訳注を付けています。

このサイトは Asahi Linux から独立した非公式なものなので、 Asahi Linux のライセンス CC BY-SA 4.0 のみに従い、訳者はこの方針に従いません。訳者は生成 AI は有用で合法なものだと考えており、 DeepLやGrokを利用した機械翻訳後編集(Machine Translation Post Editing, MTPE) で非公式日本語訳を提供します。

英語版 Wikipedia へのリンクは対応する日本語版 Wikipedia へのリンクに置き換え

理事会の意見として、大規模言語モデル（LLM）、以下『Slop Generators』と称するものは、ソフトウェアエンジニアリングツールとして、特に自由でオープンソースのソフトウェア運動において使用するのに不適切であると判断しています。

Asahi Linux プロジェクトへのいかなる貢献においても、Slop Generators の使用は明確に禁止されています。コード、文書、エンジニアリングの決定などが Slop Generators の『助け』によって大部分が作成されるような、物質的な能力での使用は、1回の警告の対象となります。

この方針を無視し続ける場合は、Asahi Linux プロジェクトおよび関連するすべてのスペースからの即時かつ永久的な禁止処分が下されます。

非合法な出力¶

すべての人気のある Slop Generators は、理解しがたいほど大量のテキストコーパスで訓練されています。 Web 上には、この訓練材料が著作権で保護された材料を含み、Slop Generator の所有者が無罰で大胆に盗んだものであるという十分な証拠があります。 (訳注: 一般的に学習は人間でも生成 AI でも著作権法の権利対象ではなく自由にできるので、学習素材が著作権で保護されていようと問題ありません)。 Slop Generators の性質上、訓練コーパスをほぼそのまま吐き出す傾向があります。これは、FOSS（自由でオープンソースソフトウェア）プロジェクトにとって、生成された slop の使用が、盗まれた訓練材料を吐き出すことによって知的財産法に違反する可能性が高いという課題を提示します。この可能性は、問題領域の特異性に比例します。 (訳注: 著作権の対象は創作的表現です。誰が作っても同じものになるものは原則創作的表現ではないので、人間が作成したものでも生成 AI が作成したものでも著作権の保護対象外です。特にコンピュータプログラムは『Hello World』のように誰が作っても同じになる場合が多いので、創作的表現とは言えず著作権の対象外となることがよく起こります。翻訳も同様です。基本的には作者によってその表現に差異が生じるもののみ創作的表現となり、著作権法の保護対象となり得ます。よって、この段落は著作権に対する法的な考え方が雑です)

Asahi Linuxは、公開されていないハードウェア上で難解な問題に取り組む、_非常に_特異的なプロジェクトです。 Slop Generator メーカーが使用する技術を考えると、メーカーの訓練コーパスに Apple やそのベンダーパートナーが所有する機密情報や漏洩した資料が含まれている可能性はゼロではありません。したがって、Slop Generators は、正しい方法でクエリされたときにこれを吐き出す可能性があります。私たちはすでに、違法に取得された、または漏洩した文書やツール（例えば、Apple の内部修理診断ツール）の使用を禁止しています。これは、吐き出された slop にも適用されます。

Asahi Linux のような FOSS プロジェクトは、米国の裁判所での高額な知的財産訴訟を負担できません。米国の現在の政治状況を考えると、FOSS プロジェクトは防御の質に関係なく、そのような訴訟に勝つ可能性は非常に低いです。

資源の浪費¶

Slop Generators は、無駄にできる余裕のない莫大な量の資源を消費します。訓練、およびに訓練に比べると少ない量ですがの推論でも、膨大な量のエネルギー、水、土地、ハードウェアが必要です。ハードウェア自体の製造には、膨大な量のエネルギー、水、鉱物が必要です。Slop Generator のサプライチェーンのすべての部分は、環境に集中しています。これらの資源は文字通り他の何かに使用する方が良いです。

ググれカス問題 (訳注: LMGTFY, Let me google that for you)¶

観察される新たなトレンドは、ユーザーの質問や投稿を Slop Generator にコピーし、生成された slop で投稿に返信することです。これは、特に Reddit で頻繁に発生しています。質問を Slop Generator に投げかけ、そのまま、またはせいぜい軽く編集した回答を投稿することで、他人を『助ける』ことを試みる人もいます。もしあなたがこのような人であるなら、他の人も同じモデルにアクセスできることを理解してください。もしも質問者が Slop Generator からの回答を望んでいるならば、自分で尋ねることができたはずです。これを行うことは、LMGTFY リンクを投稿するのとまったく同じであり、読者はあなたの行為をまさにそのように見るでしょう。

単なる行列積¶

Slop Generators の周りに悪人が築いた誇大広告に巻き込まれるのは非常に簡単です。 Slop Generators を『エージェント』や『アシスタント』として擬人化することは、人間同士の相互作用を犠牲にして、それらを労働力に統合するための同意を作り出すための大変意識的な試みです。より高度な知性や感覚の存在をほのめかすことは、極めて意図的であり、大変な誤りとなります。

誤解しないでください。Slop Generators は考えることができません。推論することができません。文脈を考慮に入れることができません。物事を『知っていたり』、ユーモアのセンスをガチで持っていたり、悪人が信じさせたい他の人間中心の性質を持っていません。 Slop Generatorsは、確率的システム内の行列の連鎖です。 Slop Generator の出力は、統計的な計算に過ぎず、生成される次の単語は、以前に生成された単語に依存する不透明な確率的関数によって決定されます。これは、天気を予測するために使用される数学と根本的に同じです。 (訳注: 現在の生成 AI の推論過程は思考に関する二重過程理論でいうところのシステム1(推論ではなく直感)の思考のみ行っているという指摘です)

Slop Generator は、その主張の真実性を評価することはできませんし、単に何か知らないと伝えることもできません。その結果、Slop Generators は頻繁に自信を持って間違え、間違いを認めさせるには脅しが必要です。 (訳注: 最近の大規模言語モデルの研究はDeepSeekのような学習の効率化と推論の改善がメインになりつつあります。推論過程を単なる確率的計算で行うと指摘のような『ハルシネーション(hallucination)』などの問題が生じます。なので、ネットを検索して情報の信憑性を確認する検索拡張生成(Retrieval Augumented Generation, RAG) や、推論過程を論理的なステップの連続に区切って行う思考の連鎖(Chain of Thoughts, CoT) や、確率に関する自己エントロピーの分散 Varentropy を活用して推論過程の評価と制御を行うことなどにより、ハルシネーションを防ぎ信頼性を踏まえたより深い洞察を行う推論に関する研究が進みつつあります。二重過程理論におけるシステム2(推論)の思考を取り入れるのが現在の AI 研究の主題の一つです。現時点での生成 AI が基本的にシステム1の思考であることは確かですが、現行の Grok でも『DeepSearch』や『Thinking』はこれら RAG や CoT 等のシステム2の思考の要素を取り入れたものであり、この節の内容は現在の生成 AI の発展を踏まえておらず雑と言わざるを得ません)。したがって、真実性と正確性が最も重要な文脈で、ユーザーがすでに問題領域で非常に知識があり自信を持っていない場合は、非常に不適切なツールとなります。これは Slop Generators にとって少々問題を提示します。もしユーザーがすでに問題領域で非常に知識があり自信を持っているなら、なぜ Slop Generator に尋ねる必要があるのでしょうか？

(訳者による回答: 生成 AI を使うのは人間が一から全部やるより AI に作業の一部を肩代わりさせた方が楽だからです。翻訳作業は、下訳を Grok 等生成 AI に作らせ、人間が文体の整理や訳語の統一、誤りの訂正、不十分な説明の補足等の校正・校閲・編集を行う方が圧倒的に効率的で正確になります。生成 AI は合法で便利な道具であり、適切に使用する限り問題ありません)