Technically Impossible

Lets look at the weak link in your statement. Anything "Technically Impossible" basically means we haven't figured out how yet.

Windows

GPU無し、コンテナもPythonも使わない、RAM=8GBのWindows PCでGPT - ggml編

いわゆる「AI」をPCで運用するには、GPUとVRAMをはじめとする潤沢な計算リソースが求められるところ、推論を実行するだけならばRaspberry Piでも対応できる*1。それが実用的であるかはおいて、普及機レベルのPCでも対応可能だ。"ggerganov/ggml"*2, "gpt-2"…

GPT on Windows PC with 8GB RAM, No GPU, No Container, and No Python - case of ggml

Abstract One of the popular topic in "AI" is GPT (Generative Pre-trained Transformer). Although it usually requires rich computational resources, running it on minimal environment as Raspberry Pi is technically possible now*1. And regardle…

Llama2.c on PC with 8GB RAM, No GPU, No Container - pretokenization, training and inference

Abstract If performance is not concern, whether it is GPT or Diffusion, they work on a machine with only 8GB RAM withuot GPU, be it on a PC or and Android smartphone. This is my finding from generative AI exploration in this spring*1. But …

GPU無し、コンテナも使わない、RAM=8GBでllama2.c - 実用抜き、モデル生成から推論実行まで

今春、8GBの環境で生成AIがどこまで動くのかを模索していた*1。パフォーマンスを気にしなければ、GPTだろうがDiffusionだろうが、GPUの無いRAM=8GBの環境、PCでもAndroidスマートフォンでも動作はするのだ。ただし推論であれば、という条件付きだった。つま…

One solution in Adobe Digital Editions - Add to Library, and "Error! Check Activation"

Abstract Adobe Digital Editions (ADE) handles DRM protected documents as ePub and PDF. Usually, they are downloaded from ACS (Adobe Content Server) with ACSM (Adobe Content Server Message). Opening ACSM on ADE and adding the protected docu…

Stable Diffusion on Windows PC with 8GB RAM, No GPU, No Container - case of GIMP

Abstract Running "AI" on PC requires rich computational resources as GPU with VRAM, and storage for its model. "bes-dev/stable_diffusion.openvino"*1 made running Stable Diffusion on poor consumer PC. And "intel/openvino-ai-plugins-gimp" al…

GPU無し、コンテナも使わない、RAM=8GBのWindows PCでStable Diffusion - GIMP編

いわゆる「AI」をPCで運用するには、GPUとVRAMをはじめとする潤沢な計算リソースが求められる。Intel OpenVINO*1を利用する"bes-dev/stable_diffusion.openvino"*2が登場し、普及機レベルのPCでも画像生成AIを動作させることができるようになった。 さらに"i…

Mount ISO and change its drive letter with PowerShell - 2023

Abstract Windows can mount ISO file, but user can't specify drive letter in advance of mounting. Its drive letter is dynamically assigned by Windows. If specific drive letter should be assigned, assigned drive letter must be changed after …

PowerShellによるISOファイルのマウント、そしてドライブ・レターの変更 2023年版

Windowsインフラの管理に欠かせない要素技術の一つがWMI (Windows Management Instrumentation)、そして、その作業に用いるのがWMIC utility (Windows Management Instrumentation Command-line utility)だ。しかし、この機能は21H1以降のWindows 10、Window…

Re-enable loudness equalization after updating to Windows 11 - case of Realtek High Definition Audio

Abstract Typical area that is difficult to notice problems is audio playback. Even if it looks playing fine, sometime enhancements as loudness equalization don;t work after updating to Windows 11.Installing Windows 11 in full update instal…

Windows 11導入後、ラウドネス等化の再稼働 - Realtek High Definition Audioの場合

Windows 10 22H2が、Windows 10の最終バージョンになることを、Microsoftが発表した*1。連休直前の発表ということもあり、連休中にWindows 11へのアップデートを検討しているユーザーも多いかもしれない。特に上書きインストールでアップデートする場合、一…

GPT on Windows PC with 8GB RAM, No GPU, No Container, and No Python - case of alpaca.cpp

This is the rewriting of the last post*1 especially for Windows user. Although GitHub providing source code introduces building with CMake*2, this post uses Visual Studio instead.CPU for evaluation is Intel Core i7-6700T. This is the relat…

GPU無し、コンテナもPythonも使わない、RAM=8GBのWindows PCでGPT - alpaca.cpp編

今回の投稿は、先日の投稿*1のWindows編だ。インストール環境がLinuxからWindowsへ変わる以外、使用するプログラムとモデルは、前回と変わらない。Windowsへのインストールに際し、ソースコード提供元のGitHubではCMake*2を用いた方法を紹介しているが、この…

GPU無し、コンテナも使わない、RAM=8GBのWindows PCでStable Diffusion - Anaconda編

2023年05月06日追記 GUIが必要なユーザー宛 この投稿で紹介しているソリューションにはGUIがない。GUIを求めるユーザーには、GIMPプラグインとしてのインストールをおすすめする。導入方法を、次の投稿で紹介している。 ちなみにGUIの有無に関わらず、画像出…

Stable Diffusion on Windows PC with 8GB RAM, No GPU, No Container - case of Anaconda

2023-05-06 To a person needs GUI Solution in this post doesn't provide GUI. If GUI is required, recommend to install as GIMP plugin. The next post introduces its how-to. FYI, regardless of with or without GUI, time for image output has no …

Windowsのシンボリックリンク、作成とリンク先の更新

ひさしぶりにストレージを増設した。様々な経験を経てITの使い方が変化すると、ただ新しいストレージにデータを移動するだけでは解決できない制約も生じる。その典型例の一つが、古いパスでデータを参照する必要がある場合だ。アプリケーションが参照する先…

Create Windows symbolic link and update it

Abstract Symbolic link works effectively to migrate folders and files from old disk to new one. Typical situation is install new storage move folders and files from old storage make symbolic link to point new location on old storage User c…

GPU無し、コンテナも使わない、RAM=8GBのWindows PCでStable Diffusion

2023年05月06日追記 GUIが必要なユーザー宛 この投稿で紹介しているソリューションにはGUIがない。GUIを求めるユーザーには、GIMPプラグインとしてのインストールをおすすめする。導入方法を、次の投稿で紹介している。 ちなみにGUIの有無に関わらず、画像出…

Stable Diffusion on Windows PC with 8GB RAM, No GPU, No Container

2023-05-06 To a person needs GUI Solution in this post doesn't provide GUI. If GUI is required, recommend to install as GIMP plugin. The next post introduces its how-to. FYI, regardless of with or without GUI, time for image output has no …

要件を満たさないPCへのWindows 11インストール、その公式の方法

要件を満たすPCであれば、Windows 11はWindows Updateを通じて提供されるので、基本的にはインストールのことを考える必要はない。任意のタイミングで、Windows Updateの指示に従って導入すればよい。 そうではない場合、特に要件を満たさないPCの場合には、…

Bluetooth packet capture on Windows 11 - Is AAC really working on Windows 11?

Abstract It is said that AAC as Bluetooth codec is supported by Windows 11, there is no corresponding description in Microsoft site. Then, Bluetooth packet capture*1 again to check whether AAC connection works. As its conclusion, Windows 1…

Windows 11でのBluetoothパケットキャプチャ - Windows 11で本当にAACは機能している?

Windows 11はBluetoothコーデックとしてAACをサポートしており、AAC対応のイヤホンならば、AACで接続できる、という話を聞いた。しかしMicrosoftサイトには、そのような情報はどこにも掲載されていない。もし本当に対応しているのであれば、実際にAAC接続し…

全包囲、全対応の多機能コントローラ、しかし色々と難あり - COWBOX S900(6月強化版)

6月強化版についての前書き 昨年末に紹介したCOWBOX S900*1の「6月強化版」がリリースされた。”強化版”と言うのだが、実際のところは、バグ修正版と呼ぶのが相応しいだろう。前モデルではXinput、DirectInputに対応していたのだが、Bluetooth接続時のDirectI…

Bluetooth packet capture on Windows 10 - Is aptX really working in those earpieces?

Abstract Followings are requirements that vender-specific codec as aptX*1 should work. Both, sound source and sink support common codec. codec is installed. installed codec works. license fee for codec has been paid In spite of aptX is ins…

Windows 10でのBluetoothパケットキャプチャ - そのイヤホンで本当にaptXは機能している?

以前、Wi-Fiボードの紹介に関連してBluetoothコーデックに触れたことがあった*1。特にaptX*2のようなベンダー固有のコーデックが機能するには、次のポイントを満たす必要があることについて触れた。 送受信側の双方が同じコーデックをサポートしていること …

1 Push Snap Ver 1.5 - ボタン一押しで、最前面Windowをキャプチャし画像ファイルを保存する。

Zoom Meetingsをはじめとするビデオ・コミュニケーションが一般的になり、業務レベルのミーティングから、多数の観客が同席するカンファレンスまでもがオンラインで実施される時代になった。特にカンファレンスでありがちなのは、プレゼンテーションを伴いな…

USB drive for Windows 11 clean install - NTFS format + bypassing hardware requirement check

Abstract Making USB drive for Windows clean install from its ISO image, there are 2 hurdles as USB drive must be formatted in FAT32. FAT32 doesn't support a file over 4GB. Windows 11 ISO image includes a file over 4GB. Such file must be sp…

Windows 11クリーン・インストール用のUSBメディア作成 - NTFSフォーマット+ハードウェア要件確認回避

Windows 11のISOメディアから、クリーン・インストール用のUSBメディアを生成するに際し、障害となることが2つある。 USBメディアはFAT32でフォーマットしなければならないこと。 FAT32は4GB以上のファイルをサポートしないこと。 If your server platform …

Nintendo Switch互換コントローラのBluetooth接続 - ペアリングから機能検証まで

Nintendo SwitchのコントローラはBluetooth接続を前提としている。他社互換コントローラの場合でも同様だ。しかし、なぜかiPadやAndroidへの対応を記載せず、Windows PCではUSB接続が前提となる旨を記載している商品が存在する。もちろん対応するBluetoothプ…

1 Push Snap Ver 1.4 - ボタン一押しで、最前面Windowをキャプチャし画像ファイルを保存する。

Zoom Meetingsをはじめとするビデオ・コミュニケーションが、日常利用において何も例外的な存在ではない時代となった。それはオンライン・ミーティングに限らず、大人数が出席する、いわゆるカンファレンスでも用いられている。ありがちなのは、プレゼンテー…