М.Двач / Железо и Техника

Компактная АИ-пекарня 25 апр, 15:38 7726422 В конец треда | Веб

1,4 Мб, 3024x4032116 Кб, 2000x2000

Аноний, я хочу невозможного, хочу собрать одновременно и компактный и достаточно быстрый ПК. Ну, условно быстрый, потому что для АИ скорость и объем памяти зачастую важнее скорости чипа.
Так как компактных и холодных игровых видеокарт не существует, то планирую сборку вокруг NVIDIA RTX 4000 Ada. Не шибко быстрая видюха, но целых 20 гигов памяти, которых даже на RTX5080 нет. Стоит 150к, на что-то дороже денег у меня нет.
Корпус думаю что Jonsbo C6, он отлично подходит для 250мм видеокарт и mini-ITX материнок. Он не такой-то и маленький, а так как жизнь у меня бомжатская с постоянными переездами, то что-то более габаритное позволить себе не могу.
Насчет проца и материнки еще не определился. Но точно будет платформа с DDR5 памятью не меньше 64 гигов, на DDR4 смысла нет.

Хочу сначала спросить анона что он думает об этой идее вообще. Реально собрать небольшой комп для ЛЛМ не дороже 350к рублей сейчас?

Ответы2653726548265672790328815292612947934178387406724568274

# OP 2 25 апр, 15:47 2 7726443

Алсо, в качестве альтернативы рассматриваю, прости боже, игровой ноутбук. В принципе, если найти самый холодный и поставить его на мощную охлаждающую подставку, то может и не сгорит.
Например, такой: https://www.dns-shop.ru/product/0334fbeb0de3d9cb/16-noutbuk-machenike-l16-pro-g2-mars-a-seryj/

3 25 апр, 16:56 3 7726537

>>7726422 (OP)
Я такой собрал и пожалел - получился компактный шумный самолёт. Лучше наоборот - огромную big tower бери.

Ответы2655427139

31,1 Мб, mp4,
720x1280, 2:06
4 25 апр, 17:04 4 7726548

>>7726422 (OP)
Откуда эта тяга впихать невпихуемое? Ты в чулане на восемь квадратов живёшь? Просто других причин собирать такое горячее железо в коробке от ботинок просто нет.

Ответы26566271352911152941

5 25 апр, 17:05 5 7726554

>>7726537
>Лучше наоборот - огромную big tower бери.
При следующем переезде берешь такой и пытаешься запихнуть биг товер в рюкзак. Он не влезает и поэтому просто громоздишь его себе на спину с помощью импровизированных лямок. Правда, остальные вещи хуй знает куда девать.

Ответы26559

6 25 апр, 17:09 6 7726559

>>7726554
Если ты не голь перекатная с одной сумкой вещей - один хрен придётся для переезда машину заказывать. Вот туда и погрузят.

Ответы26574

7 25 апр, 17:15 7 7726566

>>7726548
>Ты в чулане на восемь квадратов живёшь?
Не поверишь, но одно время жил в студии около 7 м2. За границей, конечно, в Богоизбранной люди в собачьих будках не живут. Комната была практически на длину кровати и окно было типа щели под потолком.

>Просто других причин собирать такое горячее железо
А что горячего в NVIDIA RTX 4000 Ada? Она же медленнее чем RTX5060 и для игр бесполезна. Хорошо работает с ЛЛМ только потому что есть целых 20 гигов памяти.

Ответы26595

8 25 апр, 17:16 8 7726567

>>7726422 (OP)
20 гб очень мало. Ну ты попробуешь и разочаруешься. Если важны именно нейронки и имея такой бюджет я бы смотрел в сторону MacMini или MacStudio. Там уж сколько денег хватит. У них много Unifed памяти, которая гораздо быстрее чем обычная оперативка. Условно мак с 64 гб скорее всего на практике просто разорвет по скорости инференса твой вариант с 20 гб видеопамяти. Еще можешь посмотреть в сторону NVIDIA DGX Spark, но там только если покопаться хорошо за вменяемую цену можно найти

Ответы2660226661

9 25 апр, 17:19 9 7726572

Если же так уперся и хочешь именно NVIDIA то лучше тогда 3090 или 4090. Там 24 гб памяти и они обе вполне влезут в твой бюджет. Но на практике даже этого весьма мало для чего-то по-настоящему интересного. Можешь попробовать даже вариант с 2x3090 и NVLINK (она последняя умела в него). Но это не для компактного корпуса

Ответы26602

10 25 апр, 17:19 10 7726574

>>7726559
>Если ты не голь перекатная с одной сумкой вещей
Не одна сумка, но комп за 350к я отправлять транспортной компанией не собираюсь. Такие вещи только лично транспортировать. Если на самолете лететь, то надо чтобы в ручную кладь помещался.

Ответы26595

511 Кб, 720x540
11 25 апр, 17:30 11 7726595

>>7726566
>в Богоизбранной люди в собачьих будках не живут
Живут, видос-то я не просто так прикрепил. Но у нас это для тех, кому надо хоть как-нибудь - но в столице.

>А что горячего в NVIDIA RTX 4000 Ada?
130 ватт так-то, у меня трехвентильная 6650ХТ меньше греется.

>>7726574
>Не одна сумка, но комп за 350к я отправлять транспортной компанией не собираюсь.
Кто тебе мешает доехать с ним и проследить чтобы не разъебали?

12 25 апр, 17:34 12 7726602

>>7726567
Спасибо за идею. Я всегда думал что Аппл - оверпрайс для пидоров, но их мини-ПК и впрямь выглядят интересно.
Вопрос только в том будут ли на Маке работать модели для генерации видео и ComfyUI. Мне для картинок/видео в первую очередь надо, а не для кодинга и автоматизации.

>>7726572
>хочешь именно NVIDIA то лучше тогда 3090 или 4090
Б/у не хочу брать, тем более такие горячие видеокарты. За не б/у барыги сдерут три шкуры небось.

Ответы266262662926632

13 25 апр, 17:48 13 7726626

>>7726602
Там работает все для инференса. Но вот обучать модельки, насколько я знаю, там нельзя. Возможно что что-то поменялось и обучать сейчас можно, я не изучал

> Б/у не хочу брать, тем более такие горячие видеокарты
3090 не особо горячая. 4090 уже скорее да. Да и какая разница? Он у тебя будет где-то стоять и пусть себе греется

Ответы2663654129

14 25 апр, 17:50 14 7726629

>>7726602
> Мне для картинок
Тут и 16 гб хватит

> Видео
А вот тут не хватит. Тут вообще по-моему все что не облачное ближе к "ну такое"

15 25 апр, 17:53 15 7726632

>>7726602
> За не б/у барыги сдерут три шкуры небось
За 150к ты точно можешь новую 3090 найти. Там что-то около 80-90к обычно, но это редко не б/у. Но я встречал и предложения которые явно не уставшие после майнинга

16 25 апр, 17:57 16 7726636

>>7726626
>3090 не особо горячая. 4090 уже скорее да. Да и какая разница?
При покупке б/у есть вероятность что видеокарта проблемная. Например, хуевый припой и чип отваливается. Топовые и горячие видеокарты особенно этим славятся, бюджетные и холодные почти никогда.
Новую видюху ты можешь легко по гарантии сдать, а с б/у от Васяна что делать?

Ответы26665

17 25 апр, 18:16 17 7726661

>>7726567
>Условно мак с 64 гб скорее всего на практике просто разорвет по скорости инференса твой вариант с 20 гб видеопамяти.
Кстати говоря, нигде не могу найти Мак Студио на 64 гб. За 320к предлагают версию с 36 гб. Это же хуйня для современных локалок. На виндовс-пк дополнительно можно 64 или даже 128 гигов навесить без особых проблем и ворочать очень большие GGUF модели, пусть и медленно.

Ответы26666

18 25 апр, 18:21 18 7726665

>>7726636
Да никаких гарантий нет. Но это самый дешевый способ получить 24 гб видеопамяти. Новых 4090 и тем более 3090 считай что нет. 3090 очень часто активно эфир копали

> Кстати говоря, нигде не могу найти Мак Студио на 64 гб
Очень вероятно что их скупили тупо все. Ровно с той же целью с которой и ты хочешь. А 36 это мусор для ИИ.

> пусть и медленно
Это не просто медленно, это будет адски медленно. Там что-то в духе 1 токен в секунду будет. На практике только MoE модели адекватно работают при оффлоаде частичном в RAM. Обычные ну прям супер медленно. Допустим у меня есть ноут с RTX 5070. Там 8 гб и 64 гб ОЗУ. Я попробовал SDXL модельку чтобы сгенерировала кошкодевочку 1024x1024. Модель хочет 16 гб, оффлоад наполовину в ОЗУ. Генерация заняла около 24 минут. Та же самая моделька на 5090 где она целиком помещается отработала за 6 секунд. SDXL не MoE, так что учитывай это. Потери от того что в VRAM не влезают катастрофические по скорости

Ответы27108

19 25 апр, 18:22 19 7726666

>>7726661
В целом мак студию был и с 256 гб до помешательства на ИИ, но их уже давно в продаже нет, тупо все выкупили

933 Кб, 1170x1501
20 25 апр, 18:38 20 7726672

Полная хуйня, нищим нужно собирать на strix point 128 Гб, всего 250к и будет шанс запускать 120b с небольшими извратами
На озоне до сих пор всплывают, но цена уже идет к 300к, раньше дешевле 100к стоили

Ответы2710827394

21 25 апр, 18:40 21 7726675

А, кстати. Я бы на твоем месте не сбрасывал со счетом 4090. Пусть даже и горячая: можно задаунвольтить и она будет холодная. Чуть потеряешь в скорости, но не сильно, главное что там 24 гб. Особенность этого поколения в том что там можно припаять еще 24 гб с обратной стороны и это делают умельцы на авито. Тогда получаешь 48 гб и за эти деньги ничего и близко лучше нет. 48 гб видеопамяти это уже серьезно. На фоне того что выше скинули даже при оффлоаде это будет как самолет против черепахи. 3090 только через NVLINK соединять ради 48 гб (и это неполноценно), а 5090 вообще никак: ни NVLINK, ни возможности припаять памяти нет

22 26 апр, 10:31 22 7727108

>>7726665
>Но это самый дешевый способ получить 24 гб видеопамяти.
С этим я согласен. Если бы не был бомжом, собрал бы обычный ПК фулл-товер с б/у RTX4090 и горя бы не знал.
Но я бомж и полноценный большой ПК мне никак нельзя. Готов хоть в два раза переплатить за компактность.

> Допустим у меня есть ноут с RTX 5070. Там 8 гб и 64 гб ОЗУ. Я попробовал SDXL модельку чтобы сгенерировала кошкодевочку 1024x1024. Модель хочет 16 гб, оффлоад наполовину в ОЗУ. Генерация заняла около 24 минут.
Ну это у тебя совсем хуевая видеокарта. Была бы RTX4000 Ada 20Gb, то без оффлоада она бы тоже за десяток-другой секунд справилась, не намного медленнее RTX5090.

>>7726672
Слушай, довольно интересный вариант. Если такая встройка действительно может до 96 Гб может взять, то это же имба которая уделает полноценный комп с RTX4090.
Проблема только в том что это АМуДа. Я в этом не разбираюсь, но разве все популярные ЛЛМ не с расчетом на тензорные ядра Нвидиа адаптируются? Для АМуДы только кое-что по остаточному принципу делают которое криво-косо работает. Не уверен что подойдет для генерации видео.

Ответы27114

23 26 апр, 10:54 23 7727114

>>7727108
> Проблема только в том что это АМуДа
Здесь нет проблемы. Подразумевается что инференс будет на процессоре, а там уже не важно какой. Хоть интел, хоть амд

> о это же имба которая уделает полноценный комп с RTX4090.
Это вряд ли. Если бы было так, их бы тоже все скупили как мак студио на 64+ гб

Ответы27145

101 Кб, 1164x690
24 26 апр, 11:00 24 7727118

Ну такое. Для сравнения, у 4090 скорость памяти около терабайта в секунду. Быстрым для инференса этот мини-пк сложно назвать

Ответы27150

25 26 апр, 11:36 25 7727135

>>7726548
Чем меньше - тем лучше. Многие люди просто не переваривают АТХ говну

26 26 апр, 11:37 26 7727139

>>7726537
> огромную big tower
Лучше вообще с ноутбуком чем с таким говном

Ответы2714429550

27 26 апр, 11:42 27 7727144

>>7727139
ДолбоЙоб?

Ответы27709

28 26 апр, 11:44 28 7727145

>>7727114
все современные AI фреймворки поддерживают cuda, муде и эппл gpu. стрикс даже по уровню как эппл и нвидия за 4к только дешевле в два раза.

так что разницы нет, там полноценное gpu ускорение и памяти можео 120 гб отдать, а не 96 максимум.

Ответы27151

29 26 апр, 11:49 29 7727150

>>7727118
ты нубасик, скорость памяти нужна чтоб параллельно выполнять сотни запросов с разным контекстом, если у тебя до 10 запросов в параллели то и и на lpddr5x рост почти линейный, те 500 токенов в секунду или 59 токенов на контекст, что достаточно для любого разумного применения. вот видосики генерить очень долго, да, там нужны миллионодолларовые 800 гб кластеры от нвидии которые для соры использовались, пока опенэйай охуела сколько бабла врали на хлебоходы и пирамиду.

Ответы27153

963 Кб, 1928x1374
30 26 апр, 11:50 30 7727151

>>7727145
Есть разница. Обрати внимание на bandwidth. Потом сравни это с мини пк на амд

Ответы27190

31 26 апр, 11:51 31 7727153

>>7727150
Какую ты параллель собрался затолкать в 24 гб? Там бы одну модель хорошо бы загрузить без оффлоада в ram

Ответы27186

32 26 апр, 12:17 32 7727186

>>7727153
Вот именно нахуй, адская скорость нужна для картинок и видосиков, вот только на 32 Гб даже нормальных картинок и видосиков очень сложно нагенерить, все болльшие модели хотят 60+ Гб с компромисами, а самые топовые - 200+

Поэтому видюхи и не сметают подчистую, у них просто памяти недостаточно для реального применения, только бля баловства.

Ответы27193

160 Кб, 800x628
33 26 апр, 12:19 33 7727190

>>7727151
M5 Max быстрее M3 Ultra при в 2 раза меньшей скорости памяти, ебало к остмотру.

Ответы27193

34 26 апр, 12:24 34 7727193

>>7727186
Я еще не встречал модели для генерации картинок которые бы в 32 гб не влезали. Для видосиков там да, это для локальной генерации грусть-печаль

>>7727190
Да хоть в 10. Ты дохуя в продаже видишь устройств с больше чем 36 гб памяти? Бизнес тоже в курсе что эпле инференс дешевле получается чем на зеленых картах, их сразу же скупают для этого как только в продаже появляются. А с 36 гб хоть м3, хоть м5 - мусор для инференса

Ответы27203

35 26 апр, 12:32 35 7727203

>>7727193
Дохуя очевидно, муда на 128 Гб под всеми брендами за 2-3к, нвидлия на 128 Гб под всеми брендами за 4-5к, эппл на 128 Гб за 5-6к, это стандарт сейчас для локального тестирования и разработки небольших локальных моделей и запуска q4 q8 и эксперементальных fp8 и прочих извращений, ты вообще в курсе происходящего? Счас оптимизируются и стандартизируются форматы, никто уже сранный петухон с куда загрузчиками не использует, все уже идет в сторону ускорения и упрощения, уневерсализации (спасибо эппл в первую очередь, муда как всегда жевала вату 3 года). И большинство решений как раз на относительно медленные системы с большим количеством памяти, которые обеспечивают нормальную скорость 10-50 токенов и до 100-500 при нескольких запросах. Для локального применения этого более чем достаточно.

Ответы27207

329 Кб, 2856x1086
36 26 апр, 12:36 36 7727207

>>7727203
> NVIDIA на 128 гб
Ты об этом? Воистину народная видеокарта для локальных моделей дома

Ответы27210

283 Кб, 1456x1941
37 26 апр, 12:41 37 7727210

>>7727207
чел

Ответы2723029482

38 26 апр, 12:59 38 7727230

>>7727210
А, ты про спарк. Ну я анону сразу же писал что можно посмотреть, но она по-моему сейчас дешевле 500к не встречается, что в его бюджет не влезает (если на blackwell)

39 26 апр, 13:01 39 7727233

Я сам все жду когда NVIDIA ноут выпустит с той же начинкой, скоро уже должны. Вот это уже будет пушка-бомба-ракета (если 128 гб версию брать). Главное чтобы в продаже вообще были они, а не как с эплом что в первый же день скупают как появляются

40 26 апр, 14:55 40 7727394

Вот что нейронка говорит про генерацию видео на >>7726672 Рязани 395 Макс:

Генерация видео на AMD Ryzen AI Max+ 395 для модели Wan 2.1 (14B) будет процессом небыстрым, так как это крайне тяжелая модель.
Для стандартного ролика (например, 5 секунд, 720p, 24 fps) примерные цифры будут выглядеть так:
🕒 Оценочное время генерации
Этап инициализации (загрузка модели): 1–3 минуты (зависит от скорости SSD, так как веса 14B занимают около 30 ГБ).
Сам процесс генерации (Sampling):
В режиме FP16 (высокое качество): около 15–25 минут.
С квантованием (INT8/GGUF): около 8–12 минут.

Я бы не сказал что очень медленно. За час несколько видосов можно получить, за сутки пару-тройку десятков.
С помощью Грока за 30-доллароваю подписку лимит в день будет не сильно больше этого. Качество видосов лучше, но ведь и с цензурой ебли будет уйма. Некоторые вещи Грок-цензура вообще не пропустит.

Вопрос, почему тогда все не побежали покупать мини-пекарни на базе этого проца со встройкой и не выкупили их как и продукцию Аппл?

Ответы2742027436

41 26 апр, 15:16 41 7727420

>>7727394
Выкупили, все Framework / Dell / HP - скуплено или барижится по 4к при цене в 2. Для США база это спарк или mac studio, они тоже x2 цена.
Раньше были нормальные производитлеи из китая, теперь они пропали остались мутные.

Ответы27452

42 26 апр, 15:27 42 7727436

>>7727394
> Вопрос, почему тогда все не побежали покупать мини-пекарни на базе этого проца со встройкой и не выкупили их как и продукцию Аппл?
Потому что скорость памяти в 2-3 раза ниже чем у эпл. Скупают в первую очередь самое быстрое

Ответы27452

43 26 апр, 15:39 43 7727452

>>7727420
Бля, в самом деле. На озоне вижу только какие-то GMKtec WeiMi мини-пк и компактные ноутбуки от Асус.

>>7727436
Судя по магазинам, Аппл сейчас вообще смысла искать нет. Только если у барыги с Авито покупать новый с чеком и гарантией.

44 26 апр, 21:20 44 7727709

>>7727144
Долбоеб тут только ты, зумерок

Ответы27896

45 27 апр, 04:32 45 7727896

>>7727709
Тупой малолетка 😱

Ответы29489

46 27 апр, 04:54 46 7727901

Ты хочешь много. И компактно, и быстро, и холодно, и ещё недорого. Такого практически не бывает.
Я бы рассмотрел открытый корпус, типа -
https://aliexpress.ru/item/1005009207962239.html?businessType=ProductDetail&sku_id=12000048307146279&spreadType=socialShare&srcSns=sns_More&utm_campaign=sharing_overlay_base&utm_medium=sharing
Хотя бы фактор температуры уберешь. Разобрать / собрать при переезде не будет большой проблемой.
При использовании сверху накроешь чем-нибудь.

47 27 апр, 05:23 47 7727903

>>7726422 (OP)
Я бы предложил тебе взять китайского франкенштейна. RTX 4080 Super на 32гб. Она турбинная, следовательно небольшая. Ну или 4090 (48гб), если у тебя есть деньги на неё.

ИЛИ MSI Vector - ноут с 5090м, за 270к. Самый дешёвый с 5090.

Ответы28251

48 27 апр, 17:07 48 7728251

>>7727903
Смеяться будут потомки с такого кала на мини пк мощнейших или в олед тв вообще встроенных.

49 28 апр, 12:24 49 7728815

>>7726422 (OP)
>Jonsbo C6
Не лезь оно тебя сожрет. Что-то мощнее райзена 5 ил интела и5, или условной рх6600-3060, нет смыслаа туда пихать, оно там сгорит нахуй. Это мини пека для простеньких сборочек. Тебе лучше посмотреть на маки или всякие райзены 390 или какие там, по мощности как 4060 нвидия. Ну или взять корпус побольше куда хотя бы 240 водянка влезет что для цп что для гпу, и то это будет компромисс, печка, и дорого. В общем готовься за компактную и мощную пеку отвалить дохуя и поморочить себе голову.

Ответы28918

105 Кб, 1200x1600
50 28 апр, 15:11 50 7728918

>>7728815
>или всякие райзены 390
Сейчас китайцы предлагают пикрелейтед с 96 Гб общей памяти где-то за 250к с таможней. Версия с 128 Гб стоит уже под 400к, лол.
Тоже думаю что мини-пека будет гораздо эффективнее в АИ-задачах, даже с 96 гигами.

Правда смущает охлаждение. Это считай что самый лучший из доступных, с 3 вентиляторами на вход и выход. И все равно в отзывах пишут что проц горячий как черт, 90+ градусов под нагрузкой. Короче, не намного лучше чем игровой ноутпук.

Ответы2913134142

51 28 апр, 19:03 51 7729111

>>7726548
Съемная квартира из которой могут в любой момент выгнать. Удачи в 4 утра впопыхах пытаться унести вещи и огромный гроб весом в 10-15 кг

Ответы2946552964

52 28 апр, 19:20 52 7729131

>>7728918
>Правда смущает охлаждение
Пукнет под ИИ. Если только крышку снимать.

Ответы29369

1020 Кб, 2596x2184
53 28 апр, 23:44 53 7729261

>>7726422 (OP)
Хз на счёт RTX A4000 Ada, но у меня стоит RTX A4000 прошлого поколения с 16гб врам. И она так себе. Не, в целом, збс, т.к однослотовая, но на этом преимущества заканчиваются. Поставил к ней в пару rtx 3090ti с Авито. Печь подужал по питанию. Работают в паре через ollama. 36-38б денс модели работают нормально. Мое модели с большим числом параметров ещё лучше, однако вылезают в ОЗУ и при росте контекста начинают тормозить.
Если не будешь заниматься обучением/тюном моделей, то я бы на твоём месте посмотрел в сторону мини-ПК на базе ai max+ 395 с 128гб памяти. Туда влезут денс модели 80-90б параметров и будут выдавать адекватные 30-60 ток/сек. И всего 140-150Вт потребления. Кмк имба для локального инференса. Поставил на полочку, поднял сервисы - доступны свои локальные ЭЙ АЙ из любой точки мира страны.

Ответы29369

54 29 апр, 07:51 54 7729369

>>7729131
Хуево. А ведь другие мини-пк скорее хуже чем этот. Обычно ставят только один-два вентилятора только с одной стороны.
Может надо на подставку для ноутбука поставить, хз.

>>7729261
А почему ты сам выбрал полноценный большой ПК? Не из-за цены ведь, А4000 вместе с RTX3090ti стоят дороже чем мини-пк.

Ответы29435

152 Кб, 1280x775
55 29 апр, 10:38 55 7729435

>>7729369
Я собирал ПК, когда ещё не было рузенов 395. А в последствии добавить бу 3090 было таки дешевле в 3 раза, чем брать новый миник.
Кроме того, все таки я считаю, что минипк не замена полноценному десктопу, а достаточно нишевая вещь. Аргументировать особо мне нечем, кроме мифической "гибкости" и "возможности апгрейда" для обычного пк, чего лишён миник.
Тем не менее, я иногда задумываюсь о том, чтобы продать видимокарты китайцам на авито, докинуть денег с зп и таки взять рузен 395 чисто под нейронки. Останавливает то, что какие бы локальные модели не были классные - им все ещё далеко до облачных решений. А для тыканья палкой в агентов и построения, ради интереса, каких-то пайплайнов с ними, мне текущего сетапа хватает, пусть и не всегда.

Ответы29477

56 29 апр, 11:33 56 7729465

>>7729111
Я про эти ваши нейросети не знаю. Но вот опыт использования мелкого пк имею и сборок сделал достаточно. И вот что скажу, за все время видел ровно один раз мини сборка была оправдана хоть как то -поскольку перемещался только системник. А вот всякие натягивания сов на глобус съёмные квартиры четыре утра и прочее... Ты просто хочешь собрать мелкий комп, зачем и почему именно так возможно и сам не знаешь -предположу прогрелся какой то рекламой. Идея вообще сейчас мелко сборки делать на мой взгляд плохая. Если прям сильно надо то смотри готовые минипк типа минисфорум.

Ответы29472

57 29 апр, 12:01 57 7729472

>>7729465
Я тоже юзал мини пк и юзер кейс был ровно один - ездить со сьемной хаты на хату, включать его к телику, и смотреть видиво и иногда играть. В итоге проапгрейдил до ам4 и рх6600.

И... потом понял, что это хуйня без задач, рядом есть пека в разы мощнее и моник, куда можно и геймпад подрубить, и эта псевдоконсоль не нужна.

Есть стимдек, для игры лежа, сидя, в дороге, поездок, где угодно. Есть новый ноут тоже на райзене для вывода изображения (с него и пишу). И эта мини пэка нахуй не нужна, и продал ее в итоге.

А так, если нужен мощный пека, и живешь не в будке, то проще полноценный ПК собрать, а не дрочиться с мини залупой, и еще переплачивать за всякие ITX low profile oche mali resheniya.

про нейронки не шарю, там небось у них своя атмосфера

Ответы2947829994

58 29 апр, 12:05 58 7729477

>>7729435
Ты дурак нахер какие апгрейды, что изменится если ты добавишь оперативную память, видеокарты замена это уже не апгрейд, а пол пк если не больше цена, сокет сменится процессора и ничего ты не апгрейдишь, оперативная память тоже сменится сокет, писийа стандарт новый в материнке появится тоже плату новую брать, а под нее все новое, так как лучше брать сразу с новым сокетом и тд, кроме того память на разъемах менее надежная по контактам чем паянная, мини пк идут сейчас с 128 гб 8000MHz, гробов память такой частоте может только позавидовать за такую цену, мини пк не нужно апгрейдить, просто через 3-5 лет или более покупается новый мини пк в котором сразу все мощнее и процессор и видео ядро и оперативная память. 8060S это уже практически 4060, разница 4-5 процентов, следующие мини пк будут еще мощнее, все, хана гробам поджали сильно, бюджетные и средние уже сделали бессмысленными, а до этого еще жаловались что медленными темпами развиваются встройки.

59 29 апр, 12:05 59 7729478

>>7729472
Ты дурак.

60 29 апр, 12:06 60 7729479

>>7726422 (OP)
>Реально собрать небольшой комп для ЛЛМ не дороже 350к рублей сейчас?
Его даже собирать не надо, AMD для тебя специально выкатила Ryzen Ai Max+ 395, берёшь мини пекарню вроде этой:
ozon.ru/product/mini-pk-amd-ryzen-ai-max-395-mini-pk-amd-ryzen-al-max-395-ram-128-gb-ssd-2048-gb-hdd-2048-gb-amd-3761168681/

И получаешь комп со 128 гигабайтами быстрой общей памяти, из которой до 112 гигабайт можно выделить для GPU под LLM'ки и прочие ии'шенки.
Дёшево и очень практично. Других способов получить такой объем видеопамяти за такой прайс буквально отсутствует, не говоря уже про формфактор.

61 29 апр, 12:08 61 7729482

>>7727210
Ты цены на эту поебень видел вообще?
К тому же она максимально закрытая, нормально работает только на дистрибе линукса который собран самой ноувидео.

62 29 апр, 12:12 62 7729489

>>7727896
Можно было не представляться. Я и так понял

63 29 апр, 14:45 63 7729550

>>7727139
Самое лучшее это с мини пк, а не говноноутами обоссанными, дружбарий.

Ответы30128

64 30 апр, 06:26 64 7729994

>>7729472
глянул я сейчас требования по железу. Чет хуйню ОП придумал короче, полную. Не ну если школьник и модные слова где услышал, а цель "комп для учебы" собрать то пусть... и в джонсбо сойдет. И готовая китайская нонейм мини коробка тоже. Везде их сейчас навалом и все советуют. Ведь не будут говно хвалить. Не будут же...

Ответы30004

65 30 апр, 07:29 65 7730004

>>7729994
А ты попробуй за 300к собери полноразмерный ПК с новой RTX4090.

Вся это ваша якобы годнота ИТТ почему-то на прожаренном железе от барыг с Авито. Еще и какие-то ебанные самоделки из китайских подвалов с добавлением чипов памяти на видеокарту.

66 30 апр, 11:03 66 7730128

>>7729550
У меня нет ноута. Я упомянул ноут в контексте того что даже он лучше чем нелепый гроб устаревшего формата АТХ

67 30 апр, 18:30 67 7730418

Кстати, а почему почти не делают ноутов на Ryzen AI Max 395? Он конечно горячий, но зато не надо два отдельных чипа охлаждать и городить длинные термотрубки для них.

68 6 мая, 09:03 68 7734142

>>7728918
Он 160 стоил, ты пиздишь.

Ответы35211

69 6 мая, 10:29 69 7734178

>>7726422 (OP)
>NVIDIA RTX 4000 Ada. Не шибко быстрая видюха, но целых 20 гигов памяти, которых даже на RTX5080 нет. Стоит 150к, на что-то дороже денег у меня нет.
3090 бу на авито можно найти за 50-55

Ответы35211

70 7 мая, 14:43 70 7735211

>>7734142
>стоил
А ты купи сейчас за эту цену. Мак Студио на 128 гигов в продаже вообще нет не у барыг, Рязань 395 тоже потихоньку разбирают, даже от хуевых китайских производителей.
Это становится похоже на бум майнинга эфира несколько лет назад. Цена определяется дефицитом, а не себестоимостью железа.

>>7734178
>3090 бу на авито можно найти за 50-55
А что же их по 200к не продают?
Сдается мне что с локальными нейронками сейчас начинают возникать проблемы даже на 20-24 гб VRAM. Есть причины почему медленный чип с 90+ гб памяти лучше чем быстрый чип но с 24 гб. Иначе бы никто не покупал эти сомнительные мини-пк с плохим охлаждением, а топовые б/у видеокарты стоили бы космических денег.
Даже с майнингом эфира было что-то похожее. Там вроде меньше 6 гб видеокарты потеряли возможность майнить и резко всем не нужны стали.

Ответы38978

71 11 мая, 22:09 71 7738740

>>7726422 (OP)
Чел здесь >>7698129 → я писал что надо сделать, не ебу твой ли это тред.
Самое годное решение это снять к хуям все штатные заводские охлады с материнки и видеокарты, благо видяхи сейчас идут ополовиненные по длине так что с миниматеринкой уместятся в один формфактор, сделать кастомный хитсинк из спаянных частей фрезерованной меди медных трубок и алюминия, чтобы конструкция была надёжной от протечек и максимально лёгкой и компактной. Это позволит тебе таскать десктоп напохуй не боясь его разбить впридачу.
Ну а рантье пусть готовит помимо стиралки с холодильником хотябы телевизор чтобы ты мог подключать свою пеку и сральное ведро в которое ты каждый раз будешь заготавливать лёд для постановки его на пеку для охлаждения или охлаждать пеку водой через выходные фитинги от медных трубок, как удобно вобщем.
Ещё в качестве монитора можешь смартфон или VR очки юзать.
Это самый рабочий вариант. Все остальные сборки колхоз и хуета. Да зыбыл сказать что блок питания скорее всего придётся отдельно подключать каждый раз в этот мини "чемоданчик" при заезде.

Главное чтобы вес вышел небольшой придётся с этим заморочиться. Но в твоём случае особенно лучше считать что в 2026м пеку воздухом не охлаждают.

Ответы3874750135

72 11 мая, 22:11 72 7738747

>>7738740
Да и ещё по блоку питания, с ним такие эксперименты по демонтажу охлада проводить не советую воизбежание, поэтому и предлагается просто держать блок питания отдельно в безопасном месте.

73 12 мая, 03:50 73 7738978

>>7735211
Причем за 128 гигабайтную версию. Сейчас нужно просто переждать, немного потерпеть, пынимаешь. Да все равно 8060S не поддерживает 8K120Hz видеорежим, а я хочу его под 8K OLED телек Z4. Там интел в 2028 году выпустит на LPDDR6 на подложке вообще, но это долго ваще.

74 26 мая, 16:32 74 7750135

>>7738740
>сделать кастомный хитсинк из спаянных частей фрезерованной меди медных трубок и алюминия, чтобы конструкция была надёжной от протечек
Ебать дебил.

Ответы50295

75 26 мая, 19:13 75 7750295

>>7750135
Не стоит так себя винить за то что ты не понял нихуя из примерной эскизной формулировки. Бывает подрастёшь поймёшь, криворучка. А пока страдай.

Ответы52505

76 29 мая, 14:51 76 7752505

>>7750295
Дебил и криворучка тут ты.
Медь и алюминий в одном теплообменнике - это гарантия того, что протечки будут. Разбираться дальше в твоем потоке сознания нет смысла.

Ответы5487463466

1,6 Мб, 1728x2304
77 30 мая, 06:15 77 7752941

>>7726548
>Ты в чулане на восемь квадратов живёшь?
Почти на квадрат больше комнаты, которую я снимал несколько лет

78 30 мая, 09:10 78 7752964

255 Кб, 1200x900708 Кб, 909x6231,1 Мб, 850x11362,9 Мб, 1509x1133

>>7729111
>Удачи в 4 утра впопыхах пытаться унести вещи и огромный гроб весом в 10-15 кг

Если перезжаешь не раз в месяц, то в чем проблема собственно?

ПеКарня:
13700к, мини итх плата (лучше брать полноразмерную), АИО арктик ликвид фризер 420 (четыреста двадцать азазаза), 4090 с самым большим радиатором, атх блок питания с новым разъемом, вместо корпуса BC1 V2 – Open Benchtable он разбирается в плоскость по площади чуть больше АТХ платы в толщину меньше 1 см. 2 пары полноразмерных наушников.

На разобор пекарни и раскладывание всей комплектухи по заводским КОРОБОЧАМ уходит меньше часа.

Вся комплектуха в коробках (оперативка и проц в мат плате) + 2 коробки с наушникам + коробка с макбуком + клава мышь в коробках + пара футболок или 1 пара обуви влазит в чемодан (черный на фото).

Заказываешь ВЭН в убере и едешь куда угодно.

Ответы529655297662726

66 Кб, 240x240
79 30 мая, 09:17 79 7752965

>>7752964
Мальчик видимо думает что живущие на съёмных хатах все свои вещи таскают в котомке через плечо. Ну ничего, когда-нибудь и он съедет от мамки.

Ответы52973

2,9 Мб, 1479x1101
80 30 мая, 09:23 80 7752970

Одежда для жизни в теплых странах + сандали, кроксы, 2 пары кроссовок + 1 комплект осенних вещей (длинная куртка+берцы треккинговые с жесткой подошвой и гортексом+флиска+термуха+длинные штаны).

Если оптимизировать количество вещей, можно оставить 1 пару наушников и вписать пару аудио-мониторов типо genelec g one или iloud micro monitor.

Для хиккования-сычевания в около комфорте не так много вещей нужно. Раз уж вызывать ВЭН, то можно вписать еще вел в спец кейсе.

Ответы62726

81 30 мая, 09:29 81 7752973

>>7752965
Тащемто все реально нужное для хорошей жизни в теплых странах влазит в 1 походный рюкзак. Для хиккования вполне хватит 16" ноута с юсбЦ зарядником небольшим.

Комп и всякое говно нинужно, тупое скатывание в хиккование. Но мы на дваче.

82 30 мая, 09:31 82 7752976

>>7752964
забыл добавить
В чемодан еще стим контроллер оригинальный и дуалсенс, в коробочках офк.

83 1 июня, 04:46 83 7754129

>>7726626
>Но вот обучать модельки, насколько я знаю, там нельзя.

Почему? Что за ограничение там?

84 1 июня, 20:40 84 7754874

>>7752505
>Медь и алюминий в одном теплообменнике - это гарантия того, что протечки будут.
Лол тупая криворучка как ты везде проблемы создаст и проебётся на ровном месте. Иди поплачь.

Ответы6233262871

85 11 июня, 18:59 85 7762332

>>7754874
Поссал на жадного дебила, не осилившего школьный учебник химии и жалеющего денег на полностью медный водоблок.

Ответы62947

86 12 июня, 11:39 86 7762726

>>7752970
>>7752964
хз, у меня нет разговорного английского и денег на зарубежные поездки

87 12 июня, 14:47 87 7762871

>>7754874
Чел, ты ведь дегенерат и про гальванические пары не слышал. Тот же вид долбоёбов алюминиевые резьбовые заклёпки ебашит на лист нержи и вкручивает оцинкованный крепёж где-нибудь в ванной.

Ответы63637

88 12 июня, 16:18 88 7762947

>>7762332
>Поссал на жадного дебила
>жалеющего денег на полностью медный водоблок.
Дебилушка от полностью медного хитсинка ты грыжу заработаешь таскать, медь она тяжёлая вообще, но ты же в глаза цельный кусок не видел скорее всего.
И ты ещё водоблок от теплообмениика различать научить ебанашка пиздлявая, ты даже не знаешь что ты пиздишь.

>не осилившего школьный учебник химии
Химия тут непричём и осиливать тут нечего.

Блядь какой же ты потешный словоблудный петушок, тебе и палку страшно в руки брать вдруг она у тебя в жопе окажется.

Ответы65135

89 13 июня, 12:35 89 7763466

>>7752505
>Медь и алюминий в одном теплообменнике - это гарантия того, что протечки будут
Двачую

Ответы63637

90 13 июня, 17:26 90 7763637

>>7763466
Тише ебанашка пиздливая. Себе на кровати подсасывай.

>>7762871
Там нет никаких гальванических пар уёбище косолапое. Алюминий и медь не соприкасаются с жидкостью, вернее с ней соприкасается только медь, или на крайняк медь и латунь. По алюминию вприниципе не гоняют жидкость, по причинам которым косорукие ебанашки типа тебя не в курсе но и знать тебе это не обязательно, и безо всяких соображениях о галванических парах.
Охуеть сколько нового о тупости косолапок можно узнать оказывается.

Ответы65162

91 15 июня, 23:45 91 7765135

>>7762947
>от полностью медного хитсинка ты грыжу заработаешь таскать, медь она тяжёлая вообще
Дай угадаю, ты из дистрофичных дрищей, которым ноутбук в полтора килограмма это неподъемная тяжесть?
>ты же в глаза цельный кусок не видел скорее всего
Я электрик на заводе и меди видел больше, чем ты за всю свою жизнь. Кастомную водянку я пилил в 2005, если что.
>И ты ещё водоблок от теплообмениика различать научить ебанашка пиздлявая, ты даже не знаешь что ты пиздишь
Кокой агрессивный петушок. Достань хуй изо рта и внятно поясни за свой базар Уебывай, а то телепаты тут нынче в отпуске и заниматься гаданиями на предмет "что тут спизданул этот пидарас" тут никто не хочет.

Ответы68133

92 16 июня, 03:16 92 7765162

>>7763637
>Алюминий и медь не соприкасаются с жидкостью
Хуита безмозглая, гугли образование конденсата, гугли атмосферная коррозия, гугли влажность воздуха летом у себя в квартире. Из-за таких тупых хуесосов как ты другие люди потом на нехилый ремонт попадают.

Ответы65173

93 16 июня, 05:36 93 7765173

>>7765162
>конденсат на на поверхности, которая по определению теплее окружающей среды
Попроси оставить себя на второй год в пятом классе.

94 19 июня, 09:28 94 7767245

>>7726422 (OP)
>небольшой комп для ЛЛМ
базовая база для ллм - 8х80 гигов, по понятным причинам такой комп не будет маленьким и не будет стоить дешевле 30 лямов.

Всё что можно запустить на 20 гигах - говно говна в практических задачах смысла не имеющее.

Ответы681336861573812

95 20 июня, 16:03 95 7768133

>>7765135
>Дай угадаю, ты из дистрофичных дрищей, которым ноутбук в полтора килограмма это неподъемная тяжесть?
Если ты считаешь что я обязан по желанию твоей левой пятки с какого то хуя таскать лишнюю массу, то и ты не расклеишься поработаешь более вдумчиво и сделаешь как надо эффективно и компактно и без перехода на личности.

>Я электрик на заводе и меди видел больше, чем ты за всю свою жизнь.
Тише, этот факт только ухудшает твоё положение. Столько видел, да мало понял видимо. Я сделаю вид будто ты этого не говорил.

КОмпактную подянкопеку запилить можно, нужны прямые руки оборудование, смекалочка. Да чем через большее количество узлов на материнке будут проходить медные трубки под воду тем конструкция будет легче, ибо трубки пустые без воды, а алюминиевая матрица в которую они будут впаяны и которая будет зарывать корпус тоже так то не лёгкая, но и не сильно тяжёлая.

>>7767245
А копроSWAPом обойтись нельзя при запасах терпениума?
Бля оперативки тоже много места и охлаждение нужно, а ноутбучному HDD, подходящему для компактной пеки - нет.

Ответы68263

96 20 июня, 19:39 96 7768263

>>7768133
>хлаждение нужно, а ноутбучному HDD, подходящему для компактной пеки - нет

>2026
>Своп на ноутбучном винте
Просто убей себя.

Ответы68276

97 20 июня, 19:56 97 7768274

>>7726422 (OP)
>Jonsbo C6
Хуйня, у меня там стоял райзен 3600 и 6600 радик, и оно шумело и грелось нехило, до 70-80 градусов в играх, можно вентили еще громче ебануть и 5-10 градусов сбросить. Но это коробка для лоу-мид спеков, ты туда "АИ-пекарню" не запихнешь, а если запихнешь то она задохнется моментально. Не выебывайся и бери готовые решения где можно хоть 64 гб хоть 128 гб видеопамяти получить, а не эту хню. это если оно тебе реально надо, и ты не шиз которому нехуй делать

98 20 июня, 20:01 98 7768276

>>7768263
>Просто убей себя.
Хули агрессируешь? Я же спросил, а не утверждал.

99 21 июня, 13:34 99 7768606

322 Кб, 652x1891216 Кб, 652x1188280 Кб, 652x1505152 Кб, 512x512

Терпите, карлики.

Скоро будет новая Ai Max Рязань на 256 гигов за $5K

Она даст на пол-шишечки пасасать МакСтудиоМ3-Ультра (460GB/s vs 819gb/s).

Ответы73812

100 21 июня, 13:48 100 7768615

>>7767245
>базовая база для ллм - 8х80 гигов,

это нужно для серверов чтоб многа людей пользовалось одновременно и быстро и в онлайне таким железом. для 1 пользователя это не нужно, потому что мегаскорость для хоумлаба не обязательна, и ещё потому что ещё пока что нет моделей которые имеют 100% точность удержания контекста выше 256К токенов. Для хоумлаба нужен SoC с unified memory на 128/256/512гб, самый топовый это МакСтудио М3 Ультра на 512гб.

101 29 июня, 18:03 101 7773812

>>7767245
Нахуй не нужна такая база простому анониму. В открытом доступе нет такого размера моделей. А если и есть, то прибыль от их использования будет такой что покупка сервера окупится лет через 100.
Единственное для чего может пригодиться такой сервер - обучение собственных моделей. Вот только монетизировать эти собственные модели придется тоже лет 100 чтобы окупить сервак.

>>7768606
>Рязань
За 5К тоже нах не нужно будет никому. Был бы чип от зеленых с Кудой, тогда может быть и неплохо.

Ответы76381

102 3 июля, 13:46 102 7776381

>>7773812
>В открытом доступе нет такого размера моделей
Это пока.
>А если и есть, то прибыль от их использования будет такой что покупка сервера окупится лет через 100.
Какая ищё прибыль нахуй, инвестор сельский, ты там срать по таймеру ходишь? Опу просто нужна ботохуета помелочи в быту и в тырнете. Но в целом ты прав мобильный AI это утопия.
Вообще для АИ нужен сервак, компактная пека нужна разве что если туда поместится дохуя RAM и готов мириться с оче долгими задержками. А лучше запустить сервак у себя в хуевокукуево сервак и использовать его удалённо по IPv6 если такой дохуя кочевник пинг же АИшке не критичен вообще.
А вообще какая нахуй компактность в 2026м? Куда ты собрался с ней шароёбиться, ОП? Сейчас осёдлость в моде.

Обновить тред
« /hw/В начало тредаВеб-версияНастройки/a//b//mu//s//vg/Все доски

Скачать тред только с превьюс превью и прикрепленными файлами

Второй вариант может долго скачиваться. Файлы будут только в живых или недавно утонувших тредах.Подробнее

Пользуетесь скринридером — пишите, что можно улучшить.
Host-Food.ru — надёжный хостинг от 12 руб/мес | Free DNS
Зеркала М.Двача: m2ch.hk, m2ch.lib, m2chfapiswfw2wcakptqp4o6ltgchvjuxfab7urxlduraomtlnhw5xad.onion