MacでLlama3.3 70Bを試した住民「思考力は高いけど知識の少ない人」状態に草
💡 結局どうなの?
ローカルLLMの活用は、メモリ容量やモデルの選択、エージェント機能の組み合わせでかなり体験が変わるみたい。特に64GB以上のメモリがあると快適に動かせるっていう意見が多くて、用途に合わせて機材やツールを工夫するのが鍵になりそう。
この記事でわかること
- メモリ容量は快適さに直結するけど、32GBでも工夫次第で動かせる
- LlamaよりもGemmaやQwenの方が評価が高い傾向にある
- 単体で使うよりエージェント機能や外部ツールと連携させる方が実用的
- 高度な用途や機密情報の扱いはローカルLLMの強みだけど、コスト面も課題
👍
7
肯定的なレス
👎
4
否定的なレス
🤔
4
様子見
※ 5chの書き込みをAIが分類したものです。個人の感想であり、事実とは限りません。
NEW新着記事
- Pixel 11でPUBG Mobileのfpsは出るか?設定や描画方式の検証を求める住民
- 「11にしたら童貞を卒業した」ガチムチニキに感謝する住民の反応がシュールすぎるwww
- Morpheの更新でチャット欄が埋没…「まじでいらつく」と住民が困惑
- マザーボードは正常、CPUが壊れた」メーカーの責任転嫁に住民「面白すぎる
- Win11アプデでタスクバーのサイズ変更が可能に!「なぜ最初から入れなかったのか」と住民困惑
- 「NVIDIAは循環取引でヤバい」AIバブルの限界とIntelの苦境に住民が突っ込み
- S11をヤマダで約3割引でゲットした住民「安く買えたけど次世代チップじゃないのは無理w」
- Suicaはウォークスルーを目指す?「ノロマなタッチ乗車は視野にない」と語る住民の反応
- 【悲報】OLYMPUS PEN E-P7が最後機になる可能性、スマホ派と「存在価値」でレスバ勃発
- 【悲報】Galaxy Fold6の保護フィルム剥がれで画面が映らなくなり、住民「マジで最悪…」
- MacでLlama3.3 70Bを試した住民「思考力は高いけど知識の少ない人」状態に草
- 中華ノイキャンイヤホンが勝手に音量変化で制御不能…「普通の機能でいい」と嘆く住民たち
- 「フリッカーフリーと明言してないのはトラップ」安さの裏にある罠に住民が警戒
- モバマス住民の「シコり方」のこだわりが濃すぎて草www
- 【悲報】中華イヤホンのコラボ機、初動で完売の覇権へ…「売り切れました芸」と揶揄も
- GoogleのOSなのにChromeが原因でフリーズ?「ブラウザ変えれば直る」説に住民困惑w
- 【悲報】創造の館スレ、執拗な「ハエ」の粘着荒らしで大荒れの事態に…
- Echo Dotの下に石板を敷いて「音質メッチャ変わったw」と感動する住民にツッコミ殺到
- ハイエンド機器が高価な理由は音質じゃない?「ブランド料と味付け」の代金に住民困惑
- Z5IIcのメカシャッターは利点になるか?「そんな大きな利点なの?」と疑問の声
- リモートグリップの縦撮影非対応に「鬼のように使いづらい」と住民が突っ込むwww
- 【悲報】Amazon Vine、14時台にドライマンゴー500kgやゴミが届くのだけマシ…?
- POCO F7のバイブがカッコンカッコン言う件、設定で変えられないのか?
- 「使い道がわからん」と困惑するクーポンに、住民たちが必死にレシピを提案www
- 「なんでうさぎ小屋でこんなデカイの買ったんだワシ」140Lの巨大な買い物に後悔する住民www
- ドコモ版のn79対応は有利か?「5G+にならないと意味ない」と切り捨てる層も…
- AI需要で12GBモデルの買取価格が爆上がりして草…「もう諦めるしかない」
- iPhone18Proのケース脱着で傷つくか議論、純正は硬すぎてヤバそう…
- 「買えないけど見せてくれ」…iPhone Duoの予約に漏れが続出し、煽り合いに発展w
- iPhone18 Proが中国で爆売れ、円安と低所得の日本だけ「高い」と嘆く事態に草
おすすめ
- SHARP AQUOS R9のWi-Fiが途切れる不具合?接続トラブルの反応
- Leadjoy Saber Plus 右トリガー戻りが悪くなる不良品多数?交換しても変わらない?
- フィリップ4Kは10万で買い?コスパとHDR対応の評価を検証
- Ankerからエレコムへの乗り換えはどう?充電器の評判と選び方
- ReVanced総合 Part37
- 大須の野外ライブやコスプレパレード、近隣の苦情で中止の危機?
- Temuで認証SMSが届かない?不具合やクーポン利用の注意点まとめ
- iPad mini Part27
- ALLDOCUBE iPlay miniシリーズ、ワッチョイ設定が謎?スレ立てマナーに問題?
- Windows Updateで動作が重くなる?Win11の不具合や安定性を検証
- AQUOS R11は買い?arrows Alpha2との比較やスペックの懸念点
- Android Twitterクライアント、アップデートでログイン不可?最新版の挙動を検証
- AdGuardで日本のまとめサイトの迷惑広告は消せる?フィルターの穴を検証
- Lenovo Legion Y700は文鎮化する?故障報告や復旧方法の噂
- WQHDモニターはOLEDかminiLEDどっち?27インチの文字の見やすさも検証
- Windows 11は仕事に不向き?Linuxへの移行を促すユーザーの不満点
- iPlay miniシリーズの不具合や返品、Amazonでの購入のコツは?
- ThinkPad X1 Carbon Gen14、初期不良報告は多い?実際に使ってみた評価
- Android版Firefoxのアドオンは使える?uBlock Originでの画像非表示を検証
- Google Pixel 11 / 11 Pro / 11 Pro XL part6
- Fire TV Stick HD、圏外でU-NEXTが強制終了する原因はOS変更?
- DDR5メモリ価格が前比で6倍に高騰?AIバブルとHBMの影響を考察
- RTX 5090の価格は80万円超え?50シリーズの最新動向と評価
- OPPO Reno15Aは4年前のSoC?スペックやバッテリー性能への不満の声
- XposedモジュールでLINEの広告削除や既読確認は可能?
- エアコンの買い替えは今?祝日の電気代高騰や特価品の動向
- NIKKOR Zマウントレンズの評価は?Z28-400mmの軽さと描写を語る
- Galaxy Z Fold/Flipの持ち心地はどう?胸ポケットの膨らみや色の評判
- WF-1000XM6は接続安定性重視?ルックスを犠牲にしたデザインに賛否
- サウンドバーはAVアンプに勝てる?A9000とBar1300の比較や選び方
ランダム
この記事を共有
📅 2026-09-28 16:16:52
🏷️ その他
mac
🔥 この記事の要点(ルナとはかせの会話でおさらい)
ねえ、はかせ!MacでAIを動かすのって、そんなに大変なの?
ええ、メモリ容量とモデルの相性が重要よ。特に量子化の影響は大きいわ。
量子化ってなに?知識が少なくなっちゃうって、困るじゃない!
ええ。でもQwenやGemma4なら、メモリを抑えつつ賢く動かせるわよ。
🗨️ みんなの意見
👍 肯定的な意見
👎 否定的な意見
※ 5chの書き込みをAIが分類したものです。個人の感想であり、事実とは限りません。
📝 スレッド内容
6
名称未設定
2026/09/16(水) 19:04:59 ID:wMXRKQ9S0
exoクラスタ組んでもMLXしか対応してないからHuggingFaceのモデルを入れる時点で限られる
7
名称未設定
2026/09/16(水) 19:36:21 ID:HTSsg1WE0
会社で使ってるchatbotがクソなんでローカルAIをローカルサーバーに入れて、社内のナレッジ共有に利用とか出来たら嬉しい
chatbot入れた担当は首にしろ
chatbot入れた担当は首にしろ
12
名称未設定
2026/09/17(木) 08:47:34 ID:a7UFs43h0
64GB Mac mini M4 ProでローカルAI使ってる、その印象
キャパのギリギリを狙ってLlama3.3 70B Q4試してみたけど、思考の深さはさすがの70Bながら4bitまで蒸留したのがかなり悪い方向に効いていて「思考力は高いけど知識の少ない人」みたいな感じになってる
逆にメモリ的にかなり余裕のあるGemma4 32B Q8の方が賢い感じがする
蒸留で消えてしまった知識が案外大事だったんだなと気付いた
この辺り、実際に使ってみないと分からんよね
こういう情報交換できるといいなと思ってます
キャパのギリギリを狙ってLlama3.3 70B Q4試してみたけど、思考の深さはさすがの70Bながら4bitまで蒸留したのがかなり悪い方向に効いていて「思考力は高いけど知識の少ない人」みたいな感じになってる
逆にメモリ的にかなり余裕のあるGemma4 32B Q8の方が賢い感じがする
蒸留で消えてしまった知識が案外大事だったんだなと気付いた
この辺り、実際に使ってみないと分からんよね
こういう情報交換できるといいなと思ってます
UGREEN Mac mini M4用 ドッキングステーション&スタンド|NVMe SSD拡張スロット搭載|USB-A×3(10Gbps)・USB-Cデータポート・SDカードリーダー対応|Mac mini M4 / M4 Pro専用 iPhone17対応
¥14,990
14
名称未設定
2026/09/17(木) 19:30:21 ID:HdVZe/UI0
返信:
13
名称未設定
2026/09/17(木) 13:04:36 ID:aWfibVuq0
個人用途ならSearXNG MCPは導入したいところ
15
名称未設定
2026/09/17(木) 21:59:14 ID:SM2Djwkm0
64GBならQwen3.8 27B、Gemma4-31B、Gemma4-28B A4B,Ornith 1.5 35Bあたりがいいと思う
Llamaはもう古いし誰も使ってない
Llamaはもう古いし誰も使ってない
17
名称未設定
2026/09/18(金) 07:42:29 ID:1okFyNWf0
>>15
Gemma4 26B A4Bだね(そこだけ数字が違う)
うちもQwen, Gemma4, Ornithに落ち着いた
QwenとGemma4の非検閲版も入れてる
>>16
Bionicはいまいちだったけど良くなったなら試してみようかな
Gemma4の日本語は砕けすぎな感じのときもあるのでQwenの正確な翻訳も好き
Gemma4 26B A4Bだね(そこだけ数字が違う)
うちもQwen, Gemma4, Ornithに落ち着いた
QwenとGemma4の非検閲版も入れてる
>>16
Bionicはいまいちだったけど良くなったなら試してみようかな
Gemma4の日本語は砕けすぎな感じのときもあるのでQwenの正確な翻訳も好き
返信:
21
名称未設定
2026/09/18(金) 12:28:00 ID:1okFyNWf0
>>19
現状は>>15のしか候補がないんだよね
Qwen3.8-122B-A10Bが出るという噂はあったけど出てないし
結局1台ローカルLLM専用に出来るなら32GBで間に合うし、他の仕事をしても48GBで足りそう
DGX Sparkが128GBなので合わせたものを作りそうなものなのに意外に出てこない
M5 ProでもDGX Sparkより速い、MaxやUltraは更に速いと思われるので良いモデルが出ると面白いね
現状は>>15のしか候補がないんだよね
Qwen3.8-122B-A10Bが出るという噂はあったけど出てないし
結局1台ローカルLLM専用に出来るなら32GBで間に合うし、他の仕事をしても48GBで足りそう
DGX Sparkが128GBなので合わせたものを作りそうなものなのに意外に出てこない
M5 ProでもDGX Sparkより速い、MaxやUltraは更に速いと思われるので良いモデルが出ると面白いね
返信:
16
名称未設定
2026/09/18(金) 03:05:48 ID:jctzH7zE0
コーディングにはQwen強いよね
LMStudio BionicでQwen 3.8 27Bに「こういうアプリ作って」とか「このアプリをこう直しといて」みたいなことお願いして一晩回しとくと、だいたいできてる
翻訳だと圧倒的にQwenよりGeminiの方が上手いけど
LMStudio BionicでQwen 3.8 27Bに「こういうアプリ作って」とか「このアプリをこう直しといて」みたいなことお願いして一晩回しとくと、だいたいできてる
翻訳だと圧倒的にQwenよりGeminiの方が上手いけど
32
名称未設定
2026/09/18(金) 22:38:55 ID:1okFyNWf0
>>16
いちから指示して小さいコードを欠くならいいけど既存のコードを参考にとかは難しいかな
ローカルLLMはコンテキスト長が短いしハーネスでの対応も難しい
コードの改良とかバグの発見、修整とかは難しいかな
いちから指示して小さいコードを欠くならいいけど既存のコードを参考にとかは難しいかな
ローカルLLMはコンテキスト長が短いしハーネスでの対応も難しい
コードの改良とかバグの発見、修整とかは難しいかな
返信:
33
名称未設定
2026/09/19(土) 03:52:05 ID:pj8KOz7F0
返信:
18
名称未設定
2026/09/18(金) 08:12:00 ID:jctzH7zE0
私は文芸翻訳だからかもしれないけど、QwenよりGemma4の方が翻訳家的な仕事をちゃんとしてくれる
Gemmaは場面や話者で文のスタイルを適切に切り替えるのが本当に上手い
マイナー言語から日本語に翻訳してるという特殊事情があるからかもしれないけど
Gemmaは場面や話者で文のスタイルを適切に切り替えるのが本当に上手い
マイナー言語から日本語に翻訳してるという特殊事情があるからかもしれないけど
20
名称未設定
2026/09/18(金) 11:18:20 ID:jctzH7zE0
miniスレで16GBや24GBでもローカルLLM活用してるって人いるよね
どう使ってるのか具体的に聞いてみたい気はする
どんなモデル使ってるの?用途は?
どう使ってるのか具体的に聞いてみたい気はする
どんなモデル使ってるの?用途は?
22
名称未設定
2026/09/18(金) 12:32:02 ID:1okFyNWf0
>>20
Qwen3.5 9B, Gemma4 E4Bと12B, Ornith1.5 9Bは16GBは十分動く
翻訳や文法、誤植のチェックとかに使えるよ
化学や物理の問題もまあまあ出来るし自分でやらないと勉強にならんとかお断りされない非検閲モデルもある
Qwen3.5 9B, Gemma4 E4Bと12B, Ornith1.5 9Bは16GBは十分動く
翻訳や文法、誤植のチェックとかに使えるよ
化学や物理の問題もまあまあ出来るし自分でやらないと勉強にならんとかお断りされない非検閲モデルもある
返信:
26
名称未設定
2026/09/18(金) 14:49:08 ID:sUrhf4V/0
32GBはどこまでやれるの?
29
名称未設定
2026/09/18(金) 15:12:33 ID:pXjpFhSH0
>>26
32GBでも、例えばGemma4 31b Q4とかQ6とかは一応動くのよ
ただ、ずっと動かしてるとオーバーフローで暴走したりするので常用するためには色々工夫が必要な感じ
あと量子化が意外とクオリティ(私の場合は翻訳だけど)の低下を招くんだよね
なんか色々試行錯誤したりがしんどくなって64GBに買い替えたらすこぶる快適
32GBでも、例えばGemma4 31b Q4とかQ6とかは一応動くのよ
ただ、ずっと動かしてるとオーバーフローで暴走したりするので常用するためには色々工夫が必要な感じ
あと量子化が意外とクオリティ(私の場合は翻訳だけど)の低下を招くんだよね
なんか色々試行錯誤したりがしんどくなって64GBに買い替えたらすこぶる快適
返信:
27
名称未設定
2026/09/18(金) 15:07:03 ID:IbCQN6QT0
LLMって単純にいうけど具体的には何のために何をするの?
残り 57 件のレスを表示 レスを折りたたむ
28
名称未設定
2026/09/18(金) 15:10:57 ID:jrdcz93n0
JC,JKのエロ動画作成じゃないの?ローカルじゃないと危ないからな
30
名称未設定
2026/09/18(金) 16:02:39 ID:seskumME0
ローカルLLMで何ができるかって?
自分がやりたいことをやれば良いだけ。
それができる機材を買えば良いだけ。
大金がつぎ込めないなら、クラウドでサブスクすれば良いだけのはなし。
あと、メモリが多いと、細かいところを気にしなくてもよくなるので、無駄な時間が減る。
それから、複数台あると、クラスタ以外でも使い分けができて幸せになる?
自分がやりたいことをやれば良いだけ。
それができる機材を買えば良いだけ。
大金がつぎ込めないなら、クラウドでサブスクすれば良いだけのはなし。
あと、メモリが多いと、細かいところを気にしなくてもよくなるので、無駄な時間が減る。
それから、複数台あると、クラスタ以外でも使い分けができて幸せになる?
31
名称未設定
2026/09/18(金) 16:34:13 ID:rC76XPuS0
ちなみに32GB構成でもそこまで悪くない、それ以下になると逆にコスパ悪いってだけ
32GB構成で学割で20万円、これで30B級が普通に回るからコスパはめっちゃ良い
企業は大口契約で学割よりも安く大量購入できるからmac miniが一番コスパええんやろね
32GB構成で学割で20万円、これで30B級が普通に回るからコスパはめっちゃ良い
企業は大口契約で学割よりも安く大量購入できるからmac miniが一番コスパええんやろね
35
名称未設定
2026/09/19(土) 15:36:45 ID:i3mJNzsc0
うちは宗教上の理由でMacは買えない
アンチAppleなので
アンチAppleなので
40
名称未設定
2026/09/19(土) 19:37:01 ID:EnbGRJXf0
中国Moonshot AIのチャットボット「Kimi」が、5,380個の偽アカウントを経由してClaudeに転送していた
ニュースになってる
オンライン型は、情報ダダ漏れで信用できないことが明らかになった(勝手に転送した中国AIもアウトだし、受け取ったデータを消去せず溜め込んでた米国AIもアウト)
もはやローカルAI以外は、信用できない
ニュースになってる
オンライン型は、情報ダダ漏れで信用できないことが明らかになった(勝手に転送した中国AIもアウトだし、受け取ったデータを消去せず溜め込んでた米国AIもアウト)
もはやローカルAI以外は、信用できない
46
名称未設定
2026/09/20(日) 00:03:57 ID:pSoTI51K0
47
名称未設定
2026/09/20(日) 04:40:58 ID:6/OltUM80
DGXはDDR5だから只のPCでメモリからGPUのVRAMに分割ロードしながらやっても速度は変わらないよ。
どうせ転送速度より処理速度の方がネックだし
どうせ転送速度より処理速度の方がネックだし
50
名称未設定
2026/09/20(日) 08:05:10 ID:ODfbefAw0
スタートラインは64GBって感じなのかな?
メモリがあればminiでもstudioでもオッケー?
メモリがあればminiでもstudioでもオッケー?
51
名称未設定
2026/09/20(日) 08:21:20 ID:xZ24Z4Qw0
返信:
52
名称未設定
2026/09/20(日) 08:22:55 ID:xZ24Z4Qw0
私は現状64GBのm4 pro使っててすごい満足してるから、更に倍の128GBのStudioに興味津々
ただ80万円はさすがに興味本位で買うには高すぎると躊躇してます
使ってる人いたらレポートお願いします
ただ80万円はさすがに興味本位で買うには高すぎると躊躇してます
使ってる人いたらレポートお願いします
55
名称未設定
2026/09/20(日) 09:37:42 ID:6uL2K9ZP0
>>52
現状はQwen3.8 27B, Gemma4 31Bしか使えるモデルがないので48GB, 64GBで間に合う
ローカルLLM専用に出来るなら32GBでも
その上はDeepseek4.1flashあたりだろうけど128GBでは動かない
DGX Spark 128GBで動かすという話は2台接続が前提
Mac Studioの256GBが発売されるとこの辺の話が一気に変わることになる
強いて言えば128GBあればQwen3.8 27bが非量子化あるいは高ビットの量子化で使えて言語が乱れにくくはなるかも
128GBで80万円ということはアカデミック価格だね
研究費当たるといいね
現状はQwen3.8 27B, Gemma4 31Bしか使えるモデルがないので48GB, 64GBで間に合う
ローカルLLM専用に出来るなら32GBでも
その上はDeepseek4.1flashあたりだろうけど128GBでは動かない
DGX Spark 128GBで動かすという話は2台接続が前提
Mac Studioの256GBが発売されるとこの辺の話が一気に変わることになる
強いて言えば128GBあればQwen3.8 27bが非量子化あるいは高ビットの量子化で使えて言語が乱れにくくはなるかも
128GBで80万円ということはアカデミック価格だね
研究費当たるといいね
返信:
53
名称未設定
2026/09/20(日) 08:48:54 ID:VS+JFmtD0
やはり128GB
メモリが全てを解決する
メモリが全てを解決する
54
名称未設定
2026/09/20(日) 09:29:16 ID:99oGLmap0
ローカルLLMって、
単なるLLMとして使うのか、エージェントとして使うのかでかなり違うと思うが、どっちが一般的なんやろか?
ここをみているやからなら、エージェントだと思いたいが。
単なるLLMとして使うのか、エージェントとして使うのかでかなり違うと思うが、どっちが一般的なんやろか?
ここをみているやからなら、エージェントだと思いたいが。
58
名称未設定
2026/09/20(日) 09:47:20 ID:6uL2K9ZP0
>>54
ブラウザを組み込んだエージェントが出てこないと出来ることが増えない感じがする
Playwright MCPはいまいち使えない
この辺はChatGPT Work/Codexがよく出来ていてあの会社はLLMだけでなくソフトの開発が突出してうまい
もう少し試してみるがプログラミングもローカルLLMではコードが大きくなるとやっぱり難しい感じ
コンテキスト長が限られるせいなのでディスク内の文章の整理とかも同様に確実ではない
現状で実用的なのは翻訳、英文のチェックくらいか
ブラウザを組み込んだエージェントが出てこないと出来ることが増えない感じがする
Playwright MCPはいまいち使えない
この辺はChatGPT Work/Codexがよく出来ていてあの会社はLLMだけでなくソフトの開発が突出してうまい
もう少し試してみるがプログラミングもローカルLLMではコードが大きくなるとやっぱり難しい感じ
コンテキスト長が限られるせいなのでディスク内の文章の整理とかも同様に確実ではない
現状で実用的なのは翻訳、英文のチェックくらいか
返信:
59
名称未設定
2026/09/20(日) 10:10:20 ID:ui1A7tgm0
その感覚はよく分かります。ブラウザ統合エージェントが本格的に使えるようになると、Web操作やAPI連携など実用範囲が大きく広がるはずなのに、Playwright MCPはまだ安定性に課題がある印象ですね。
OpenAIのChatGPT Work/Codexは確かにLLMとソフトウェア開発の両方で高い完成度を持っています。特にエージェント的なタスク実行能力は他社をリードしていると感じます。
ローカルLLMのプログラミング用途については、コンテキスト長の限界が実質的なボトルネックになっていますね。小さなスニペット生成やデバッグ助言ならまだしも、大規模なコードベースを理解・修正するのは難しいです。ファイル整理も同様に、全体像を把握できないと誤った判断をしてしまいます。
現状では翻訳や英文チェックのような「入力→出力」型のタスクが最も安定して実用的という認識は正しいと思います。ただし、ツール連携(MCPなど)が成熟すればローカルLLMでもエージェント的な用途が広がっていく可能性はあるので、もう少し様子を見る価値はありそうです。
OpenAIのChatGPT Work/Codexは確かにLLMとソフトウェア開発の両方で高い完成度を持っています。特にエージェント的なタスク実行能力は他社をリードしていると感じます。
ローカルLLMのプログラミング用途については、コンテキスト長の限界が実質的なボトルネックになっていますね。小さなスニペット生成やデバッグ助言ならまだしも、大規模なコードベースを理解・修正するのは難しいです。ファイル整理も同様に、全体像を把握できないと誤った判断をしてしまいます。
現状では翻訳や英文チェックのような「入力→出力」型のタスクが最も安定して実用的という認識は正しいと思います。ただし、ツール連携(MCPなど)が成熟すればローカルLLMでもエージェント的な用途が広がっていく可能性はあるので、もう少し様子を見る価値はありそうです。
60
名称未設定
2026/09/20(日) 10:15:10 ID:99oGLmap0
コンテキスト長が限られるってのがわからないんやが、自分は今は25万トークンで少ないと思ってるんで、近々50万か100万ぐらいにしたいと思ってるが、100万トークンで少ないって言ってるんやろか?
74
名称未設定
2026/09/21(月) 15:22:33 ID:W+S0zWFC0
>>60 >>73
長文を読み込むとコンテキスト長64K−256Kでもすぐに一杯になる
ローカルLLMで使えるRAGはいまいちなのばかりで長文全訳とか長文から指定した部分の書き出しとか絶望的に苦手
ChatGPTとかはモデルだけでなくこの辺が非常に良くできている
長文を読み込むとコンテキスト長64K−256Kでもすぐに一杯になる
ローカルLLMで使えるRAGはいまいちなのばかりで長文全訳とか長文から指定した部分の書き出しとか絶望的に苦手
ChatGPTとかはモデルだけでなくこの辺が非常に良くできている
返信:
61
名称未設定
2026/09/20(日) 10:26:23 ID:xB1NnoT20
かつての「パソコン大先生」たちが大挙してAI周辺に大移動しています。
1. 「ググれば分かる知識」の価値が暴落した
2. AIは「パラメータ弄り」という大先生好みの要素が満載
3. 「新しい権威」になりやすいブルーオーシャン
1. 「ググれば分かる知識」の価値が暴落した
2. AIは「パラメータ弄り」という大先生好みの要素が満載
3. 「新しい権威」になりやすいブルーオーシャン
62
名称未設定
2026/09/20(日) 10:57:27 ID:tvX0NEkS0
25万トークンは確かに大きいですね。100万トークン(約75万字)なら、ほとんどの実用場面では十分すぎるほどです。「コンテキスト長が限られる」というのは、以下のような文脈で言われることが多いです:
• 巨大なコードベース全体を一度に読み込みたい場合:大規模プロジェクトの全ソースコード(数十万行)を一度に渡すには100万でも足りない可能性
• 長時間の会話履歴:何日も続くチャットやログを全部保持したい場合
• 大量ドキュメントの同時処理:数百のPDFやレポートをまとめて分析する場合
ただし、実際には「コンテキスト長が長い=良い」というわけではなく:
• 計算コストとメモリ使用量が比例して増える
• モデルが本当に長い文脈全体を効果的に利用できているかは別問題(「真ん中の忘却」現象)
• 適切なプロンプト設計や分割処理で、より短いコンテキストでも同等の結果を得られる場合が多い
100万トークンにすれば、ローカルLLMでのプログラミング支援もかなり実用的になるはずです。ただし、それ以上に期待しすぎると失望するかもしれません。
• 巨大なコードベース全体を一度に読み込みたい場合:大規模プロジェクトの全ソースコード(数十万行)を一度に渡すには100万でも足りない可能性
• 長時間の会話履歴:何日も続くチャットやログを全部保持したい場合
• 大量ドキュメントの同時処理:数百のPDFやレポートをまとめて分析する場合
ただし、実際には「コンテキスト長が長い=良い」というわけではなく:
• 計算コストとメモリ使用量が比例して増える
• モデルが本当に長い文脈全体を効果的に利用できているかは別問題(「真ん中の忘却」現象)
• 適切なプロンプト設計や分割処理で、より短いコンテキストでも同等の結果を得られる場合が多い
100万トークンにすれば、ローカルLLMでのプログラミング支援もかなり実用的になるはずです。ただし、それ以上に期待しすぎると失望するかもしれません。
64
名称未設定
2026/09/20(日) 11:36:07 ID:xZ24Z4Qw0
エージェント用途でよくクラウドAIなんか使うよな、と思う
怖くない?
ここから数年、または数ヶ月以内に端末の操作をバリバリやってくれるローカルAI環境が整備されると思う。というか願ってる
怖くない?
ここから数年、または数ヶ月以内に端末の操作をバリバリやってくれるローカルAI環境が整備されると思う。というか願ってる
65
名称未設定
2026/09/20(日) 11:49:40 ID:CEwX6h6H0
エージェントをAI主導で動かすと非決定で怖い
AIで決定的なプログラムを生成して(もちろん別コンテキストでレビューする)
それでエージェント動作させたいね
AIで決定的なプログラムを生成して(もちろん別コンテキストでレビューする)
それでエージェント動作させたいね
66
名称未設定
2026/09/20(日) 11:50:06 ID:CEwX6h6H0
なにがいいたいかというと
それならクラウドAIで問題ない
それならクラウドAIで問題ない
67
名称未設定
2026/09/20(日) 11:56:22 ID:iQctEHq70
確かにクラウドAIに端末操作を任せるのは、データ漏洩やセキュリティの面で不安がありますね。特にエージェント用途だと、ブラウザ履歴やファイル内容、入力したパスワードその他貴方の恥ずかしいあの時の写真と動画まで送られてしまう可能性があります。
ローカルAI環境への期待は分かります。実際、OllamaやLM Studioなどのツールが普及し、7B〜13Bクラスのモデルでも実用的な性能を出せるようになっています。MCP(Model Context Protocol)の登場も、ローカルAIと各種ツールの連携を標準化する方向に進んでいますね。
ただ現実的には、クラウドAIの方がまだ高性能で機械への初期投資的にも安価なので、両者が併存する状態がしばらく続くでしょう。機密性の高い操作はローカル、一般的なタスクはクラウドという使い分けが現実的かもしれません。
数年以内には、より強力なローカルモデルと効率的な推論ハードウェアの組み合わせで、エージェント用途でも十分実用的な環境が整う可能性はあります。そうAppleならね。
ローカルAI環境への期待は分かります。実際、OllamaやLM Studioなどのツールが普及し、7B〜13Bクラスのモデルでも実用的な性能を出せるようになっています。MCP(Model Context Protocol)の登場も、ローカルAIと各種ツールの連携を標準化する方向に進んでいますね。
ただ現実的には、クラウドAIの方がまだ高性能で機械への初期投資的にも安価なので、両者が併存する状態がしばらく続くでしょう。機密性の高い操作はローカル、一般的なタスクはクラウドという使い分けが現実的かもしれません。
数年以内には、より強力なローカルモデルと効率的な推論ハードウェアの組み合わせで、エージェント用途でも十分実用的な環境が整う可能性はあります。そうAppleならね。
72
名称未設定
2026/09/21(月) 12:18:23 ID:WSHAJgNw0
専用機にする場合、ストレージって256GBで足りるのかな?
76
名称未設定
2026/09/22(火) 00:36:20 ID:ZA1AYsDs0
>>72
直接的な答えになってないがプログラム手動で自律的に動かすことを前提にするならストレージは必須やろ
直接的な答えになってないがプログラム手動で自律的に動かすことを前提にするならストレージは必須やろ
返信:
77
名称未設定
2026/09/22(火) 01:17:49 ID:WPHg1XxH0
ローカルLLM用途で素人が色々いじったけど、知識も古いし、推論も期待外れだった。一方でエージェント機能に切り替えてMCPサーバ立ち上げて連携させたら検索も推論もギリギリ使えそうなものになってきた。PCの制御をするつもりなくてもエージェントに組み込んだ方がいいと思う。立ち上げのハードルが大分上がるけどね。
81
名称未設定
2026/09/22(火) 07:59:09 ID:V/3HvHwv0
いつごろまで中国AIがローカル動作するのかが気になる
地政学的理由で動作が極端に遅くなるとか起動直後エラーで落ちる状態にセキュリティ更新でなる可能性はどれほどなのか
地政学的理由で動作が極端に遅くなるとか起動直後エラーで落ちる状態にセキュリティ更新でなる可能性はどれほどなのか
82
名称未設定
2026/09/22(火) 09:45:00 ID:aeg9m1qi0
ローカルモデルが外的要因で動作変化するとかありうるの?
なんかそういうリスクを排除するためにもローカルで使ってるんだけど
なんかそういうリスクを排除するためにもローカルで使ってるんだけど
83
名称未設定
2026/09/22(火) 09:55:19 ID:eLxFz1C50
中国共産党「いつからローカルだと思ってた?」
85
名称未設定
2026/09/22(火) 10:04:38 ID:e04ANXta0
アプリのテストするのに、隣のPCのコントロールをエージェントに任せて自動でテスト結果を得るようにしている。
しかし、どうやって隣のPCをコントロールしているのか自分は詳細は理解していない。
なんてことをやっていると、セキュリティってどうなんか?と思うよ。
自分の通常使っているMACはエージェントからのコントロール対象にはしていないが、ハッキングされたら、イチコロのような気がしてる。
しかし、どうやって隣のPCをコントロールしているのか自分は詳細は理解していない。
なんてことをやっていると、セキュリティってどうなんか?と思うよ。
自分の通常使っているMACはエージェントからのコントロール対象にはしていないが、ハッキングされたら、イチコロのような気がしてる。
89
名称未設定
2026/09/22(火) 11:11:45 ID:Xkvj8p3A0
日経の速報スクープ
中国AIのKimi、米クロードに「代理回答」させる アンソロピックが指摘https://www.nikkei.com/article/DGXZQOGN15BV70V10C26A9000000/
中国AIのKimi、米クロードに「代理回答」させる アンソロピックが指摘https://www.nikkei.com/article/DGXZQOGN15BV70V10C26A9000000/
96
名称未設定
2026/09/22(火) 13:49:32 ID:uWPPo+J50
ただ4bでも特殊if条件判定器としてみると、とんでもない性能をしてる
会話する相手ではない
会話する相手ではない
99
名称未設定
2026/09/22(火) 13:57:08 ID:Tfd9YTLY0
最近、むかきんエロAI遊びを覚えたw
unlucid.ai/r/6tbrsjuw
unlucid.ai/r/6tbrsjuw
106
名称未設定
2026/09/22(火) 14:09:35 ID:QW8e381D0
リンクは貼れてるよ。
この手のミニPCには少し興味がある。
メモリが256GBぐらいのって、2〜3世代ぐらい後にメモリのバンド幅が2倍以上になれば、使い所がある気がする。
この手のミニPCには少し興味がある。
メモリが256GBぐらいのって、2〜3世代ぐらい後にメモリのバンド幅が2倍以上になれば、使い所がある気がする。
108
名称未設定
2026/09/22(火) 14:18:56 ID:9vRBjdLY0
DDR4 RDIMMならいくらか持ってるけどAIでなにか役に立つかな
114
名称未設定
2026/09/22(火) 14:43:47 ID:SI4f3JpT0
外部の検索ツールを繋げるってBrave Search APIとかかな?
どっかにコスト安くてパフォーマンスのいいツールは無いものか
どっかにコスト安くてパフォーマンスのいいツールは無いものか
122
名称未設定
2026/09/22(火) 23:57:15 ID:GrpwE21K0
返信:
117
名称未設定
2026/09/22(火) 17:48:24 ID:WPHg1XxH0
ローカルLLMを単独で使うと現在の時刻の取得すら許可されてないからね。ツールでweb 検索つけても自分の古い知識との整合性に悩んでろくな結論を出せない。
同じモデルで同じ質問しても
Hermesからエージェントで呼び出すと、そこら辺の問題が一切でないんだよね。
同じモデルで同じ質問しても
Hermesからエージェントで呼び出すと、そこら辺の問題が一切でないんだよね。
120
名称未設定
2026/09/22(火) 18:26:40 ID:d1n84YUV0
あと2年はメモリ高騰確実だから今買うのが正解か
123
名称未設定
2026/09/23(水) 00:01:55 ID:GyAQu8y90
Macで中国AIって何時までサポートされるのだろう
アメリカ側から見て中国はライバルだよな
アメリカ側から見て中国はライバルだよな
124
名称未設定
2026/09/23(水) 07:17:39 ID:oGcZCg720
今日のOpus5.5とGPT-6-SolでもコスパすげえのにローカルLLMとか、秘密情報扱う公務員、医者、弁護士、銀行、一流企業以外需要ないだろ
チャイナモデルがClaudeの蒸留でしかなかったこともバレたし、API接続でも学習させない筈の情報が蓄積されてることばれたし
もはやローカルLLMに投資しても中小企業や個人零細には元が取れない
チャイナモデルがClaudeの蒸留でしかなかったこともバレたし、API接続でも学習させない筈の情報が蓄積されてることばれたし
もはやローカルLLMに投資しても中小企業や個人零細には元が取れない
129
名称未設定
2026/09/23(水) 11:54:50 ID:6Sm3cZ390
macOS 27のターミナルのfmでApple純正LLM触ったら、こういうので良いんだよって気分がしました。
136
名称未設定
2026/09/26(土) 00:57:14 ID:QsTVZ+lg0
macmini m632GBと m4maxだったらどっちがAI向き?
137
名称未設定
2026/09/26(土) 02:30:42 ID:vSeoczfr0
そんなにやりたいならStudio買えよ
miniでやっても捗らん
miniでやっても捗らん
143
名称未設定
2026/09/27(日) 20:29:39 ID:FAx4GLYz0
https://i.imgur.com/pnao4YZ.jpeg
これ争奪戦になるよきっと。多分100万ちょい位
これ争奪戦になるよきっと。多分100万ちょい位
146
名称未設定
2026/09/27(日) 22:06:51 ID:FAx4GLYz0
だーかーらー、MacStudio買う金持ちならこれもついでに買えるだろって話
148
名称未設定
2026/09/27(日) 22:25:00 ID:vQkFavCg0
頭悪そう…
155
名称未設定
2026/09/28(月) 07:57:35 ID:PA7+32L00
こういうのでいいんだよ
https://youtube.com/shorts/JdzS8274gps
https://youtube.com/shorts/JdzS8274gps
164
名称未設定
2026/09/28(月) 14:57:32 ID:joKw2ZDi0
三人はどうゆうキャラ設定?
タイトル:【ローカルAI】MacでローカルLLM
この記事を共有
🔗 相互リンク
- NEW婚活市場「女めっちゃ余ってるよ~ん♥ 男の子来てぇ~ん♥」
- NEW採集ミニゲームがマウス非対応なのはマジでエアプしかいないのかよ…
- NEW【謎】アニメとゲームは世界トップクラスなのに、なぜ日本の映画とドラマは微妙なのか?
- NEWPS5の和ゲーラインナップに「忍者しかねーのかよ!?」と突っ込みの嵐
- NEW田舎モンの方言って気持ちわりぃよな
- NEWSwitch2版はセーブ引き継ぎ不可…「冒険の書は引き継げませんw」
- NEWオズワルドって(芸人)知ってる?って母親から言われて、姉は『ミッキーの前…
- NEWアームドファンタジアが開発中止…「ブレスと同じような死に方してる」
- NEW漁師「住んでもないのがどうして勝手に「基地反対」なんて始めるんだ!? 誰に許可を得たんだ?」
- NEWジタン上方調整に「ヤケクソ」疑惑…ガイアは個性不要でHP上げろよwww
- NEW婚活市場「女めっちゃ余ってるよ~ん♥ 男の子来てぇ~ん♥」
- NEW採集ミニゲームがマウス非対応なのはマジでエアプしかいないのかよ…
- NEW【謎】アニメとゲームは世界トップクラスなのに、なぜ日本の映画とドラマは微妙なのか?
- NEWPS5の和ゲーラインナップに「忍者しかねーのかよ!?」と突っ込みの嵐
- NEW田舎モンの方言って気持ちわりぃよな
- NEWSwitch2版はセーブ引き継ぎ不可…「冒険の書は引き継げませんw」
- NEWオズワルドって(芸人)知ってる?って母親から言われて、姉は『ミッキーの前…
- NEWアームドファンタジアが開発中止…「ブレスと同じような死に方してる」
- NEW漁師「住んでもないのがどうして勝手に「基地反対」なんて始めるんだ!? 誰に許可を得たんだ?」
- NEWジタン上方調整に「ヤケクソ」疑惑…ガイアは個性不要でHP上げろよwww
🔥 24時間人気記事
「一応動く」と「安定」の差は使い手次第…AIはあくまで道具だという指摘に同意の嵐
iPhone Duo、カメラがゴミでFace ID未実装…「これじゃ買わん」と冷ややかな反応
Win11アプデでタスクバーのサイズ変更が可能に!「なぜ最初から入れなかったのか」と住民困惑
GoogleのOSなのにChromeが原因でフリーズ?「ブラウザ変えれば直る」説に住民困惑w
ChatGPTに「お礼」を言ってみたらちゃんと返事してくれて感動するワイ
【悲報】dカードの改悪が止まらない…プラチナやゴールドの維持に住民困惑
iPhone18Proのケース脱着で傷つくか議論、純正は硬すぎてヤバそう…
Echo Dotの下に石板を敷いて「音質メッチャ変わったw」と感動する住民にツッコミ殺到
「フリッカーフリーと明言してないのはトラップ」安さの裏にある罠に住民が警戒
Amazon Vine 先取りプログラム 523品目(会員限定)
「ペンは不要」vs「Sペンは別格」で論争勃発、Foldユーザーの評価も割れる…
「APS-Cこそ最高」の裏側は高すぎて買えないだけ?…正直な本音に突っ込み殺到www
コメントを投稿する
✨ こちらのスレッドもおすすめ
東芝 4K REGZA(レグザ)タイムシフトの寿命ってどのくらい?
まだ評価はありません
Sony α Eマウントレンズ、次世代の発売予定やサードパーティ製はどう動く?
まだ評価はありません
積立改悪でも100万修行してゴールドNLにする意味あんの?…住民「コンビニ専用で十分」
まだ評価はありません
Duo買えない貧乏人が18Proらしい…マウント取りたい奴の心理で草
まだ評価はありません
Windows Updateでバグ報告、さらにリカバリー方法追加も?
まだ評価はありません
「SiriAIは饅頭、Geminiは餡子」比喩でApple信者の熱量がヤバすぎる件
まだ評価はありません
motorola Edge40neoの質感は?ヴィーガンレザーのベトつきを検証
まだ評価はありません
Nothing Phoneの使い勝手はどう?Essential Spaceの活用法や評価を検証
まだ評価はありません
📝 コメント・感想(0)