GPUの温度を見れば、AIが考えているかどうかわかる
夏の中休みですかね・・・
今日はちょっと雨が降って涼しげ。何が辛いって、厚さだけならまだ耐えられるんだけど、暑い上にモワッとした湿気が、夏の厳しさなんでしょうね。
暑くてカラッとしているか、今日みたいに湿気はあっても、暑さが和らいでいれば、まだ過ごせるもんなんだなって、改めて感じました。
たもんです。
フィジカルとバーチャルを行き来しながら、 日々の気づきを書いてます〜
夏の辛さの一つにね、PCの暑さがあります。
今まで、これそこまで強く感じていませんでした。最初に夏は厳しいんだーって感じたのは3年前にフルトラ(VRで体全体を表現するため)をするために、それなりなGPUを積んだPCを買った時。
それまで、話では聞いていても、あまりピーンときていなかったんですよね。
ITのお仕事をしていた時も、サーバールームという場所はあっても、普通に入ることはなかったし、支給されたPCは普通のPCだったので、厚さとか感じようがなかった。
あと、サーバールームというところに入ると、異様にクーラー効きすぎて、寒くて一枚羽織るのが必要だな〜程度
やっぱり必要なのかな?って感じたのは、フレンドさんに進められたCPUとGPUを自分で組み立てよう(お金がなかったから)と、お店に行って店員さんに必要なの教えてって言った時。
今ならわかるけど、CPUを冷やすファンとか、電源とかさぁ〜
なんでもいいと思っていたんですよね。
説明書見ながら組み立てている時も、「これ本当に必要?」って思ってたくらい。
これまで、デスクトップ型のPCってiMacぐらいで、ずっとノートだったから、組み立て終わったおっきな箱を目の前にして、なんでこんなに大きいのが必要なんだろうね。あと、なんで組み立てるPCってこんなに光る必要があるんだろうね・・って(ゲーミングPCになるからね・・今ならわかるよ)
それから、3年。今はAI用に使うことが多くなったけど、これで変わったのが、GPUの監視をするようになったことですね〜
ローカルLLMってどのくらいGPUを使っているというのを常に見ることが結構必要なんですよ。
クラウドAIの場合は、インターネットに送るだけだから、PCを監視する必要ってほとんどないけれど。ローカルの場合はAIが今考えているかどうかもGPUを見ればわかっちゃう。
質問の仕方が悪くて、思考停止になるとファンの音が静かになって、システム監視画面を見ると、決まってGPUのメモリが低位置にいるからね。
な〜んか、ローカルLLMって工場で機械の監視をしているみたい。
あと、これで分かったのが、結構、GPUを稼働させると温度が上がるってことです。何もしてなくて40度ぐらいだけど、使い始めると80度近くまで行って、ファンがフル稼働して60度ぐらいまで下げてくれている感じ。
GPUにもファンがついているし、CPUも頑張るから大きな冷却ファンが必要(みため、でっかいCUBE)ってことだよね、
AIつかうと、物理的にPCを操作しているようなるんだから、ちょっと滑稽だなって思いました。でも、「な〜んかAIいじってる」って感覚になるんだから、「わたしってばかだぁな」って思ったりね。
「たもん」の日々の発見が気になったら、フォローしてね。 明日も何か書きます~
いいなと思ったら応援しよう!
よろしければ応援お願いします!
いただいたチップはヴァーチャル世界をもっと知るための活動費に使わせていただきます!