Technically Impossible

Lets look at the weak link in your statement. Anything "Technically Impossible" basically means we haven't figured out how yet.

GPT on Linux PC with 8GB RAM, No GPU, No Container, and No Python - case of alpaca.cpp

The last post*1 indicated unpractical performance as prediction of a single token per a minute. Performance this time is enough practical. Using smaller language model as 4GB file size. It is stored on RAM without swap, and consumer PC wit…

GPU無し、コンテナもPythonも使わない、RAM=8GBのLinux PCでGPT - alpaca.cpp編

IT

前回の投稿*1で示されたパフォーマンスは、1トークンの推論に1分を要する、とても実用に適さないものだった。今回は違う。使用する言語モデルのファイル・サイズは4GBだ。これがswapを用いず、完全にRAMに乗ることで、RAM=8GBの普及機レベルのPCでも、いわゆ…

20230323

https://www.tumblr.com/espio999/32460027178/%E6%88%91%E3%80%85%E3%81%AE%E3%81%84%E3%81%86%E3%81%93%E3%81%A8%E3%82%84%E3%81%AA%E3%81%99%E3%81%93%E3%81%A8%E3%81%AE%E5%A4%A7%E9%83%A8%E5%88%86%E3%81%AF%E5%BF%85%E8%A6%81%E4%BA%8B%E3%81%A7%E3%81…

シン・仮面ライダー

公開初日からTwitterに流れる投稿を見て、エヴァQの再来を懸念していたのだが、全くの杞憂だった。決して、『シン・ゴジラ』、『シン・ウルトラマン』*1のように一般受けしそうなものではなく、そもそも『仮面ライダー』という題材自体が彼らに比べて一歩及…

GPU無し、コンテナもPythonも使わない、RAM=8GBのLinux PCでGPT

IT

2023年03月23日追記 この投稿での事例は、1トークンの推論に約1分を要する。とにかく動作させてみることを念頭にしている。swapを用いず、小規模なモデルをオン・メモリで動作させることで、実用に適うパフォーマンスで動作させることができる。そのような…

GPT on Linux PC with 8GB RAM, No GPU, No Container, and No Python

2023-03-23 Performance of prediction in this post is not practical, a single token per a minute. The next post shows the other case. Its performance is better due to small size language model. If you are interested, please refer to it. imp…

GPU無し、コンテナも使わない、RAM=8GBのWindows PCでStable Diffusion - Anaconda編

はじめに 先日の投稿*1では、Microsoft Storeで配布されているPythonを用いました。この投稿では、Anacondaを用いて同じ作業を実施する手順を紹介しています。 本文 いわゆる「AI」をPCで運用するには、GPUとVRAMをはじめとする潤沢な計算リソースが求められ…

Stable Diffusion on Windows PC with 8GB RAM, No GPU, No Container - case of Anaconda

In the beginning In the last post*1, it used Python distributed at Microsoft Store. This post uses Anaconda instead. No change in the content from the last post other than procedures for Anaconda. Abstract Running "AI" on PC requires rich …

Windowsのシンボリックリンク、作成とリンク先の更新

ひさしぶりにストレージを増設した。様々な経験を経てITの使い方が変化すると、ただ新しいストレージにデータを移動するだけでは解決できない制約も生じる。その典型例の一つが、古いパスでデータを参照する必要がある場合だ。アプリケーションが参照する先…

Create Windows symbolic link and update it

Abstract Symbolic link works effectively to migrate folders and files from old disk to new one. Typical situation is install new storage move folders and files from old storage make symbolic link to point new location on old storage User c…

20230315

https://www.tumblr.com/espio999/179707137113/%E9%9A%A0%E3%82%8C%E3%81%9F%E3%83%81%E3%83%A3%E3%83%B3%E3%82%B9%E3%82%92%E7%99%BA%E8%A6%8B%E3%81%99%E3%82%8Bespio999.tumblr.com J-REIT 中国市場、インド市場 武士の献立 ディスク増設

20230314

https://www.tumblr.com/espio999/95357614003/%E5%89%B5%E9%80%A0%E3%81%99%E3%82%8B%E3%81%A8%E3%81%84%E3%81%86%E3%81%93%E3%81%A8espio999.tumblr.com J-REIT 中国市場、インド市場 dalai OpenAI

20230313

https://www.tumblr.com/espio999/105654821643/%E5%A4%A9%E5%9B%BD%E3%81%AE%E9%96%80espio999.tumblr.com J-REIT 中国市場、インド市場 米国、中国

GPU無し、コンテナも使わない、RAM=8GBのWindows PCでStable Diffusion

2023年03月17日追記 この投稿では、Microsoft Storeで配布されているPythonを用いている。その代わりにAnacondaを用いる場合の手順を、次の投稿で紹介している。関心があれば参照してほしい。 impsbl.hatenablog.jp 本文 いわゆる「AI」をPCで運用するには、…

Stable Diffusion on Windows PC with 8GB RAM, No GPU, No Container

2023-03-17 This post uses Python distributed at the Microsoft Store. The following post describes the procedure in case of Anaconda instead. If you are interested, please refer to it. impsbl.hatenablog.jp Abstract Running "AI" on PC requir…

20230310

https://www.tumblr.com/espio999/96577393693/%E4%BD%95%E3%81%8C%E3%81%97%E3%81%82%E3%82%8F%E3%81%9B%E3%81%8B%E3%82%8F%E3%81%8B%E3%82%89%E3%81%AA%E3%81%84%E3%81%A7%E3%81%99%E6%9C%AC%E5%BD%93%E3%81%AB%E3%81%A9%E3%82%93%E3%81%AA%E3%81%A4%E3%82…

20230309

https://www.tumblr.com/espio999/98554833313/%E3%81%84%E3%81%A1%E3%81%B0%E3%82%93%E3%81%AE%E5%95%8F%E9%A1%8C%E3%81%AF%E7%A7%81%E3%81%9F%E3%81%A1%E3%81%AE%E6%97%A5%E5%B8%B8%E7%94%9F%E6%B4%BB%E3%81%8C%E3%81%98%E3%81%B6%E3%82%93%E3%81%9F%E3%81…

20230308

https://www.tumblr.com/espio999/710872268736184320/%E4%BD%95%E3%81%8B%E3%82%92%E6%AC%B2%E3%81%97%E3%81%84%E3%81%A8%E6%80%9D%E3%81%86%E3%81%A8%E6%89%8B%E3%81%AB%E5%85%A5%E3%82%8C%E3%81%9F%E5%BE%8C%E3%82%82%E3%81%9D%E3%82%8C%E3%82%92%E3%81%9…

Everything Everywhere All at Once

まず海外では1年前に公開された作品であり、とっくにネタバレもされている作品だ。たとえ細部を追いきれなかったり、ストーリーが理解できなかったりしても、あらすじ等々はWikipediaでも公開されている*1。とはいえ、決してストーリーや展開が理解できない…

20230306

https://www.tumblr.com/espio999/105654185923/%E4%B8%80%E6%97%A5%E4%BD%9C%E3%81%95%E3%81%96%E3%82%8C%E3%81%B0%E4%B8%80%E6%97%A5%E9%A3%9F%E3%82%89%E3%82%8F%E3%81%9Aespio999.tumblr.com J-REIT 中国市場、インド市場 Stable Diffusion + OpenVINO o…

20230305

少し充実してたかな Stable Diffusion + OpenVINO on ClearLinux 検討事項1 検討事項2

20230304

暖かいと寝覚めが悪い。

20230303

https://www.tumblr.com/espio999/100405653033/carving-on-the-dragon-gate-on-flickrespio999.tumblr.com J-REIT 中国市場、インド市場 サムライマラソン

20230302

https://www.tumblr.com/espio999/33631583538/%E3%82%82%E3%81%A3%E3%81%A8%E3%82%82%E3%82%88%E3%81%84%E5%BE%A9%E8%AE%90%E3%81%AE%E6%96%B9%E6%B3%95%E3%81%AF%E8%87%AA%E5%88%86%E3%81%BE%E3%81%A7%E5%90%8C%E3%81%98%E3%82%88%E3%81%86%E3%81%AA%E8%A1…

20230301

https://www.tumblr.com/espio999/674090364511141889espio999.tumblr.com 任天堂 楽天 J-REIT 中国市場、インド市場

20230228

https://www.tumblr.com/espio999/100971701818/%E8%B2%B4%E4%BA%BA%E3%81%AB%E6%83%85%E3%81%91%E3%81%AA%E3%81%97espio999.tumblr.com 任天堂 楽天 J-REIT 中国市場、インド市場 確定申告準備 資産16億円 投資歴69年 87歳のデイトレーダー 藤本茂氏の【ト…

20230227

https://www.tumblr.com/espio999/170209034743/%E5%B9%B8%E3%81%9B%E3%81%A8%E3%81%AF%E4%B8%8D%E5%AE%89%E3%81%AE%E5%8E%9F%E5%9B%A0%E3%82%92%E6%8C%81%E3%81%9F%E3%81%AA%E3%81%84%E3%81%93%E3%81%A8espio999.tumblr.com 任天堂 楽天 J-REIT 中国市場、…

20230226

読んでばかりで何も考えていない。 何も考えていないから、何のアウトプットもない。 そして眠くなる。 読んでばかりで何も考えていない。 楽天 ChatGPT Web3のキラーアプリは何か?

20230225

また一日を無駄にする。 確定申告 源泉徴収、総合課税、申告分離 上場株式等に係る配当所得等の課税方式の一致 超高速!参勤交代リターンズ

20230224

https://www.tumblr.com/espio999/140062152888/%E3%83%86%E3%83%AD%E3%83%AA%E3%82%BA%E3%83%A0espio999.tumblr.com 任天堂 楽天 J-REIT 中国市場、インド市場 【詳しく】日銀総裁候補 植田和男氏らに所信聴取 金融緩和で買い入れたETFの取扱 内田副総裁候補