O Pesadelo do llama.cpp com OpenVINO no Gentoo
Eu costumava pensar que o ROCm da AMD era um pesadelo para fazer funcionar. Eu estava errado. Consegui colocar o ROCm para rodar em menos de um dia com esforço mínimo, apenas pesquisando no Google. Assim como a NVIDIA, ele é agnóstico em relação à distribuição, mesmo que falte maturidade. Então eu conheci a stack de IA da Intel. Minha definição de “pesadelo” foi oficialmente atualizada. Levei quase uma semana para fazer o OpenVINO com llama.cpp funcionar no Gentoo. O software sofre de um caso grave de “Ubuntunitis” — a crença delirante de que o Ubuntu é a única distribuição existente no universo. Esse é o selo de empresas com zero estratégia real e séria de Linux; empresas que tratam o Linux como se fosse Windows, demonstrando uma total falta de disposição para aprender como o desenvolvimento de software para o Linux realmente funciona. ...