Тред про AI-агентов - от вайб-куколдинга до персональных ассистентов, которые сидят в твоих чатах, читают заметки и автономно ломают всё вокруг. Для кодеров, которые разучились писать руками, и для гуманитариев, чей диплом филолога наконец котируется в IT. Сеньор в 2026 - это тот, кто умеет внятно объяснить машине, чего он блять хочет.
Новости треда: • IPO Anthropic (Nasdaq, 19 ноября) - кучерявый наебщик Дарио Калодеи раньше Сэма Альтмана первым из чистых западных фронтир-лабов вытащил свою секту свидетелей сейфти на биржу под тикером ANT и впарил уолл-стритовским дегенератам 980 млн фантиков по $83 на $81,3 млрд, перебив июньский рекорд илоновской солянки SpaceX+xAI ($75 млрд), а на влажных мечтах о полугодовой выручке в $16,2 млрд против прошлогодних $4,6 млрд пузырь на открытии раздули по $111,50 за $2 трлн капы, чтобы уже к вечернему клирингу насадить залетевших на хаях мамкиных инвесторов на красную дилду до $97 ($1,3 трлн рыночной и $1,75 трлн с разводнением).
• Gemini 4 Neon и Hydrogen (Google DeepMind, 12 и 18 ноября) - индусы из корпорации бобра выкатили дуплет: сначала слили в унитаз 3.8 Flash и насыпали даже бесплатным бичам реактивный Hydrogen с лямом контекста по плоским $1,50/$7,50, который в Artificial Analysis унижает вчерашний топчик Argon, хуярит таски до 2,5 раза шустрее и в Antigravity пашет дешёвым негром-оркестратором у барина Carbon, а следом вывалили за $3/$15 кодинг-царя Neon, взявшего топ-1 Coding Agent Index (58,6 балла) и топ-3 общего индекса (61,4) на замену тухлым Argon и 3.1 Pro в подписке AI Pro за $19,99, вот только кошерный Carbon оставили строго патрициям на Ultra за $99,99, а голодранцев с фри-тира и челядь с AI Plus за $4,99 ещё с 13 ноября тихо послали нахуй, отобрав вообще все Pro-модели.
• GPT-6.2 Astra и Sol (OpenAI, 17 ноября) - заднеприводный скамер Сэмик высрал минорный апдейт, где жирная Astra за конские $8/$40 (хоть кэш скинули с бакса до $0,40) наскребла 62,1 балла в Artificial Analysis, перешагнув через Gemini 4 Carbon с Opus 5.5, но всё равно отсосав у Fable 5.2, а плебейский Sol за $2/$10 впятеро дешевле наступает ей на пятки в Cognition FrontierCode 2.0 с разрывом в жалкие 0,5 очка, только в реальном кодинге получился жидкий пук в лужу: в Coding Agent Index старшая модель нихуя не сдвинулась с уровня старой шестёрки, а младшая вообще отупела и просрала 3 балла.
• Анальный КУСЬ по паспорту в Claude (Anthropic, с конца октября) - калифорнийские левачки окончательно поехали кукухой на борьбе с неправильными черепами и натравили на платящих юзеров зонд Persona с требованием светить ебалом и разворотом паспорта на вебку, без разбора хуяря пермачом за двуглавого орла на обложке даже съебавшихся в страны белых людей релокантов, из-за чего в ноябре на кладбище улетели десятки олдовых акков с многолетним донатом и собственными непалёными VPS.
>>1759950 гемма 31б или квен 27б, либо 64 гига оперативки надо и терпеть 2 токена в секунду, либо 32 гига видеопамяти через две видеокарты, правда, ты за эту стоимость можешь просто топовую корпоративную модель кумить несколько лет, а локальный кал обосрется с подливой при генерации сложного текста
В треде генерируем, скидываем, коллекционируем обсуждаем клипы категории SlopCore. (Важно, тред не то что бы сильно музыкальный он больше про код, не путать с генерацией музыки и видосов)
Жанр не жесткий, но его основные черты: - Сгенерировано без прямого участия Homo Sapience - Не чистый Diffusion а код, и много часов работы агентов, много работы над проектом со стороны ИИ. - Обычно темы связанные с темой ИИ, ИИ новостей, Агентов и Сингулярности. Просто потому что мы, те кто генерирует SlopCore обычно живём этим.
Подумал вот, есть тема про новости ИИ, но она про восторги от новых, обещания скорой сингулярности, замены кожаных и т.п. Скепсис там не приветствуется.
Почему бы не иметь ещё одну тему, про новости чуть менее радужные?
Для затравки: OpenAI рискует недополучить 90% от собственного прогноза доходов от рекламы.[Вот что это значит для рынка ИИ
Главное
• Целевой показатель OpenAI по доходам от рекламы в размере $100 млрд к 2030 году в 20 раз превышает прогноз eMarketer для всего рынка чат-ботов, что ставит под угрозу обязательства Oracle на сумму $75 млрд, связанные с ИИ.
• Доля ChatGPT в ИИ-трафике упала с 87% до 65% на фоне укрепления позиций Gemini от Alphabet, из-за чего прогнозы о доминировании рекламы в чат-ботах становится всё труднее обосновать.
• Не ждите: аналитик, предсказавший успех NVIDIA в 2010 году, только что раскрыл свой топ-10 акций компаний из сферы ИИ.
Одно из ключевых допущений, лежащих в основе концепции инвестиций в ИИ, только что прошло суровую проверку реальности, и цифры явно не сходятся. По данным исследовательской компании eMarketer, рекламный бизнес OpenAI рискует недополучить около 90% от собственного пятилетнего прогноза выручки. OpenAI прогнозировала $2,5 млрд рекламной выручки в 2026 году с ростом до $100 млрд к 2030 году. Данные eMarketer показывают иную картину: отдельные ИИ-чат-боты, включая ChatGPT, Microsoft Copilot, Google AI Mode и Amazon Alexa for Shopping, суммарно принесут менее $1 млрд рекламного дохода в этом году и всего $5,41 млрд по всему рынку к 2030 году.
Целевой показатель одной лишь OpenAI на 2030 год примерно в 20 раз превышает оценку eMarketer для всего рынка рекламы в чат-ботах США. Этот разрыв ставит под сомнение весь прогноз и находится в самом центре дискуссии о «пузыре» ИИ.
Что требуется для выполнения прогноза OpenAI
Чтобы эта цифра оправдалась, как утверждает eMarketer, OpenAI необходимо будет массово переманить рекламные бюджеты из традиционного поиска, занять доминирующее положение на полностью сформировавшемся рынке рекламы в чат-ботах и одновременно превзойти по эффективности практически каждый рекламный формат в истории. Любая из этих задач выглядит амбициозно; необходимость же выполнения всех трех делает прогноз похожим скорее не на план, а на надежду. OpenAI запустила тестирование рекламы только в феврале 2026 года и озвучила эти прогнозы спустя всего лишь два месяца.
Не ждите: аналитик, предсказавший успех NVIDIA в 2010 году, только что раскрыл свой топ-10 акций компаний из сферы ИИ.
Короче, компьютерщики пытались зафигачить некие суперкомпы на новой не Неймановской архитектуре. На крысах локальных моделях работало, в большом масштабе проект себя не особо оправдал.
Локальные языковые модели (LLM): Gemma, Qwen, GLM и прочие №290 /llama/
Аноним20/11/26 Птн 19:47:43№1758966Ответ
В этом треде обсуждаем генерацию охуительных историй и просто общение с большими языковыми моделями (LLM). Всё локально, большие дяди больше не нужны!
Здесь мы делимся рецептами запуска, настроек и годных промтов, расширяем сознание контекст и бугуртим с нано флеш моделей на 1488B параметров.
Тред для обладателей топовых карт NVidia с кучей VRAM или мажоров с проф. картами уровня A100, или любителей подождать, если есть оперативная память. Особо терпеливые могут использовать даже подкачку и запускать модели, квантованные до 8 5 4 3 2 0,58 бит, на кофеварке с подкачкой на микроволновку. Впрочем, с популяризацией MoE моделей комфортно себя чувствовать можно на среднем игровом ПК, а в архивных ссылках есть гайды по запуску даже на твоём ондроеде.
>>1759960 Уже версии Basalt и Maya вчера под него сделали. Скорость в две трети от QFN IQ3_S. Глядишь, через недельку уже Всрата поддержку выкатит для каждой микроволновки.
>>1760020 ты мимику способен воспринимать? они все брови подняли, конечно глаза будут казаться большими. большие глаза не равно модельная внешность. там только первая в модели годится но она объективно всратка
Общаемся с ИИ, почти что AGI самыми продвинутыми текстовыми моделями: GPT, Claude, Gemini и прочими. Горим с ограничений, лимитов и банов, генерим пикчи, пишем код и спорим о том, какая модель лучше.
Большинство сервисов доступны бесплатно с ограничениями. Подписки открывают доступ к более мощным моделям, увеличенным лимитам и дополнительным функциям (генерация изображений, файлы, память и т.д.). Цены и условия у всех разные и периодически меняются.
Советы по регистрации: 1. При необходимости используй VPN. 2. Заведи нормальную почту (временные часто режутся). 3. Регистрируйся на нужной платформе. 4. Иногда требуется номер телефона — используются сервисы виртуальных номеров. 5. Пользуйся.
VPN в ряде регионов обязателен. Соответствие страны VPN, почты и номера не обязательно, но желательно для тех, кому доступ критически нужен, например для работы.
Для ленивых есть боты в телеге, 3 сорта: 0. Боты без истории сообщений. Каждое сообщение отправляется изолировано, диалог с ИИ невозможен, проёбывается 95% возможностей ИИ 1. Общая история на всех пользователей, говно даже хуже, чем выше 2. Приватная история на каждого пользователя, может реагировать на команды по изменению поведения и прочее. Говно, ибо платно, а бесплатный лимит или маленький, или его нет совсем.
Пасаны мой первый тред. Короче ситуация такая, с мая оплачивал клод через app store и беды не знал, пользовался впнами как хотел, если меня клод палил, то просто переставал работать пока я не перезайду. Потом я купил еще акк и стал действовать так же. Все было прекрасно до кажется 10-12 ноября 2026-го, когда он запросил верификацию просто ни за что, пока работал ну да уже на уебском впне. Поддержка нихуя не отвечает, естественно есть друзья которые могут верифицировать, но я надеялся что одного раза будет достаточно. На втором аккаунте прошел верификацию, все четка зарабаотало и на следующий денб опять верификация. Кто знает, че делать? В общем хочу сказать что все советы большинство из них хуйня, как будто рандомайзер работает и то как латают у них дыры, но я думаю должен быть способ чтоб эта хуйня больше никогда не прилетала
>>1758622 >Кто знает, че делать? Муравью хуй приделать. Пидорасы из антропика теперь при каждой оплате триггерятся на КУС. А пидоры-посредники раньше платили через Apple pay, где антропий не мог ничего про тебя пронюхать, а теперь с каких-то пластиковых карт. Просят при этом идентификатор сессии клода и по факту заходят от твоего имени и платят с карты, которая хуй пойми кем выдана, может вообще пижженая.
1. Suno https://suno.com/ Вышла версия V6 mini и V6 pro (но для тех кто платит денюшку), качество моделей постепенно улучшается (в 6 версии дата сеты стали дерьмом собачьим, тонны вайна на реддите тому подтвержение звук стал калом): звук, понимание концепций, набора различных жанров. Но в то же время все сильнее урезается для бесплатных юзеров: осталось только 5 бесплатных генераций в день на аккаунт, а также по заявлением некоторых анонов, модель для генерации на бесплатке (на момент создания треда использовалась 4.5) ухудшили. Спам аккаунтами пока что работает. Купить подписку из РФ: 1. https://payment.mts.ru/tools/suno-ai 2. https://plati.market/games/suno-ai/1701/
2. Tunee https://www.tunee.ai Хороший звук, более-менее понимание концептов, но тоже сильно урезан для бесплатных юзеров: режет концепты в промптах, плюс произвольно определяет "цену" за каждую генерация исходя из какой-то "сложности запроса". И получается, что если с бесплатки забацаешь промпт сложнее банальщины "Make cool rock about love for youtube" он может решить что у тебя нет кредитов для такого сложного запроса и пошлет нахуй. Способов оплаты из РФ неизвестно.
3. Sonauto https://sonauto.ai/ Как по мне, недооценённая вещь, особенно учитывая что недавно он обновился до 3.0, который очень даже разъебывает. Но он тут более ограничен тегам и понимает чисто какие-то жанровые теги, гибкости поменьше. Но зато пока что халявный и не ограничен кредитами, генерируй пока есть настроение.
YuE-2 Модели пяток дней, модель малоивестная 3b и не требовательная, уже есть в комфи. Есть задел на то что будет дохуя лор.
MiniMax Music 3 https://github.com/minimax-ai/minimax-music3 [есть в шаблонах comfyui] Свежак. Качество генерации на уровне Suno 3+. Сильно заточена именно на песни, с инструменталом есть особенности - модель не следует прямому указанию по продолжительности, можно выставить ограничение(!) на максимальную продолжительность. LLM часть сама решает сколько будет идти трэк. Промт простыня на пару сотент токенов, рекомендуется использовать LLM асситента.
ACE-STEP 1.5XL: https://github.com/ace-step/ACE-Step-1.5 [есть в шаблонах comfyui]. Звук уже на уровне раннего Suno ~2.0-3.0, аноны делают на нем уже приемлемые результаты и постят в тред. Если есть хотя бы 12 GB VRAM и хочется генерировать без цензуры и подписок - можете юзать. Идеально подходит для отладки перед использованием на коммерческих генераторах. В XL версия DIT модель разжирела до 4b параметров и стала чутка вменяемее. Стоит учесть то чтобы добится вменяемого звучания одними тэгами отъебатся не получится, `caption` требует качественного промпта символов на 200. В ComfуuUI реализован только text2music функционал. Для полного функционала надо накатывать полноценный бэкеннд из репозитория. Есть несколько кривеньких вариаций локальных студий как в коммерческих моделях - https://github.com/ace-step/awesome-ace-step#uis-and-studios VST плагины итд.
HeartMuLa https://github.com/HeartMuLa/heartlib Результат примерно на уровне ACE-STEP1.5 (не XL). Статус проекта непонятен, пока ебут вола. Из плюсов - меньше песочит на верхних частотах. Есть встроенный STUDIO UI.
StableAudio https://github.com/Stability-AI/stable-audio-3 [есть в шаблонах comfyui+] Делает звук. Подходит для создания сэмплов FX, ad-libs итд. Абсолютно не может в членораздельную речь. Может сделать что то похожее на музыку. v3 наглухо зацензурена, стоны и вопли можно делать на v1.
МЁРТВЫЕ КОММЕРЧЕСКИЕ ГЕНЕРАТОРЫ
1. Udio (udio.com) - куплен Warner Bros, но затем сами Warner Bros сдали назад и откатили сделку. Но уже успели испортить, больше нельзя скачивать треки, их только доставать из буфера в 160 кбит/с. Плюс непонятно как работающая цензура, которая не дает генерировать треки с определенными тегами. Плюс уже год ебут один и тот же 1.5 allegro. 2. Riffusion, Producer.ai (producer.ai) - куплен гуглом, удалены все старые относительно норм модели, вместо этого запихали безальтернативную каловую модель, которая и промпты сложнее самых нормисных в духе "make cool rock about love" не понимает, и вокал смазывает в какую-то кашу. При этом еще и максимально дегенеративная цензура, которая режет чуть ли не любые попытки сделать просто что-то не попсовое и не "музыку для ютуб".
ПРОЧИЕ ПОЛЕЗНЫЕ УТИЛИТЫ
1. https://www.bandlab.com/mastering Быстрый мастеринг в две кнопки, если хочешь чтобы звучало более слушабельно, но не имеешь навыков в DAW или аудиоредакторах (или лень). 2. https://morpher.ru/accentizer/ Если генерируешь музыку с лириками на русском, то очень часто случается, что твой генератор путает ударения в словах. Прежде чем пихать свою графоманию в генератор, проставь ударения в сервисе по ссылке. И уже из этого сервиса копируй текст в генератор. По крайней мере в Suno это помогает.
>>1759680 >А что за субъекты перед архаичным транспортом и бескрайними звёздами? Попытка нейросети запилить промпт на основании первого куплета "ДДТ - Метель августа". Касательно японщины - nemotron-3-ultra в качестве текста в промпте именно японский любит, может, практикует, надо мне не лениться и самому вилкой чистить лишнее/прямо указать, чтобы надписи на русском были.
Новости об искусственном интеллекте №84 /news/
Аноним# OP17/11/26 Втр 14:44:47№1756496Ответ
Активно репортите все нерелейтед посты кнопкой на сообщениях. Этот тред только про ИИ новости, не позволим троллям загаживать тред шитпостом и бесконечным словоблудием.
🧠 Модели
- Bland запускает Tofu-1 — речевую модель для телефонных разговоров в шумной обстановке. Tofu-1 обрабатывает аудио напрямую, не переводя его предварительно в текст. Модель предназначена для того, чтобы отделять голос собеседника от звуков телевизора, плачущего ребёнка, дорожного шума, домофона или тональных сигналов клавиатуры.
- Thinking Machines публикует веса модели Inkling 2 Small с 594 млрд параметров на Hugging Face.
- Claude Fable 5.2 показывает производительность на уровне Opus 5.5 при значительно меньшей стоимости.
- Tencent выпускает Hy4 Flash — модель с 224 млрд параметров, стоимость вывода которой составляет 2 юаня за миллион выходных токенов.
- ACE Music v1 обходит Suno v6 и занимает первое место в рейтинге вокальной музыки Artificial Analysis.
- Huawei Cloud открывает доступ к openPangu-2.1-Pro на платформе MaaS. Стоимость вывода составляет 3,2 юаня за миллион токенов.
- Google представила Gemini 4 Hydrogen — более быструю и дешёвую модель для программирования и повседневных задач, которая превосходит Gemini 4 Argon на максимальном уровне рассуждений.
- Liquid AI выпустила d1.2 и d1.2-ultra — новые модели принятия решений, которые обрабатывают текст, изображения и аудио. Они могут извлекать информацию из документов, находить объекты на изображениях и классифицировать содержимое. Liquid заявляет, что d1.2-ultra занимает первое место в индексе Decision Index от Artificial Analysis.
- Claude Sonnet 5.5 возглавила Accelerate Bench, набрав 67,4% в задачах высокопроизводительных вычислений.
- Qwen4-Max занимает сразу два шестых места в предварительных рейтингах Arena по веб-разработке. Arena поставила Qwen4-Max от Alibaba на шестое место в предварительных рейтингах WebDev и Image-to-WebDev. По результатам модель набрала больше баллов, чем её предшественница.
- Теперь Claude превосходит человека в переводе поэзии. По утверждению источника, Claude теперь переводит стихи с точностью выше человеческого уровня, сохраняя ритм, метр и культурные нюансы лучше профессиональных переводчиков. Независимый анализ показывает, что Claude сохраняет поэтическую структуру при переводе между языками, улавливая тонкие эмоциональные и исторические контексты, которые люди часто упускают.
- Долгожданная Qwen4 Max получила разочаровывающие 43 балла в рейтинге Artificial Analysis.
- В веб-приложении Gemini заметили упоминание Gemini 4 Neon, однако сама модель пока недоступна.
- Исследователи продемонстрировали, как одна модель редактирует веса другой модели.
🔓 Открытый исходный код
- Обучение контроллера всего тела для человекоподобного робота раньше было задачей для кластера графических процессоров. Менее чем за четыре недели научная статья UC Berkeley под названием SuperMimic и целая серия созданных на её основе проектов с открытым исходным кодом сократили время обучения работающего трекера движений для Unitree G1 до нескольких минут на одной видеокарте.
- Институт базовых моделей при Университете искусственного интеллекта имени Мохаммеда бин Заида (MBZUAI) выпустил PAN 2 — базовую модель мира с открытым исходным кодом, способную моделировать физическое окружение для поддержки планирования действий роботами.
- Memorilla от Стэнфорда сокращает объём хранилищ документов до 16 токенов для моделей LLM с замороженными параметрами. Стэнфорд представил Memorilla — систему памяти с открытым исходным кодом, которая сжимает целые коллекции документов всего до 16 токенов памяти.
- Edge0-145B переносит модель ИИ с открытым исходным кодом и 145 млрд параметров на совместимые персональные компьютеры для программирования и сложных задач рассуждения. Edge0 заявляет, что локальная производительность превышает 80 токенов в секунду при пиковом использовании примерно 29 ГБ памяти. Компания также выпустила Edge0-120B и инструменты для локального инференса.
- Meituan LongCat-2.5 — это модель с открытыми весами и 1,6 трлн параметров для ИИ-агентов, выполняющих задачи программирования. По сообщениям, она полностью обучалась на китайском оборудовании. Meituan заявляет о конкурентоспособных результатах в задачах командной строки, хотя для одного из примеров развёртывания модели на собственных серверах требуется 194 чипа Huawei Ascend.
- Rakazo — альтернатива размещаемым в облаке ИИ-агентам с открытым исходным кодом. Она запускает ИИ-помощников на компьютере пользователя, поддерживает собственные модели и API-ключи и предоставляет правила подтверждения действий. Учётные данные и журналы активности остаются в контролируемой пользователем среде.
- Huawei открывает исходный код робототехнической модели на Ascend и запускает CloudRobo. Huawei Cloud расширяет свои амбиции в сфере искусственного интеллекта, переходя к физическому ИИ. Компания запускает открытую модель мира для роботов, обученную на вычислительной платформе Ascend, одновременно продвигая её коммерческое внедрение через партнёрства с производителями робототехники.
🤖 Робототехника
- ASUS представляет Gallop — своего первого человекоподобного робота, который уже самостоятельно упаковывает детали на собственной производственной линии ASUS.
- Genki Robotics, токийский стартап в области человекоподобных роботов, основанный создателем Android Энди Рубином, впервые публично продемонстрировал своего робота на встрече с премьер-министром Японии Санаэ Такаити в канцелярии премьер-министра.
- Шесть роботов AGIBOT G2 выполнили 1730 задач в ходе 24-часового испытания в круглосуточном магазине Шанхая.
- GXO Logistics подписала с Apptronik письмо о намерениях, предусматривающее расширение испытаний человекоподобного робота Apollo на своих складах и согласование условий его коммерческого внедрения.
- Figure ищет сотрудника, который будет следить за её человекоподобными роботами в ночное время. В опубликованном объявлении о вакансии координатора смены по эксплуатации человекоподобных роботов (ночная смена) в Санта-Кларе предлагается оплата $40–45 в час за работу с 22:30 до 7:00.
- Gemini Robotics 2.5 выводит Apollo 2 на производственные линии Mercedes-Benz, а Argon ускоряет обучение.
- HD Hyundai Robotics создаёт собственный «мозг» для роботов, а Skild AI предлагает Корее заняться производством их корпусов.
- Человекоподобный робот ASUS Gallop нацелен на точность упаковки 99,5% за 20 секунд. ASUS сообщает, что человекоподобный робот учится упаковывать 15 аксессуаров для материнских плат на заводских производственных линиях.
- Логистические комплексы Шэньчжэня начали использовать роботов с воплощённым ИИ для автономной ночной сортировки посылок с 15 ноября 2026 года. Человекоподобные роботы обрабатывают более 10 000 посылок в час с точностью 99,8%, используя системы компьютерного зрения и адаптивные технологии захвата. Это стало первым крупномасштабным коммерческим внедрением воплощённого ИИ в круглосуточные логистические операции в промышленном центре Китая.
- Исследователи представили систему, позволяющую большим языковым моделям напрямую управлять роботами без промежуточных слоёв преобразования. Архитектура была представлена в ноябре 2026 года. Она устраняет узкие места, связанные с символьными представлениями, позволяя языковым моделям в режиме реального времени выдавать сигналы управления двигателями. Первые результаты указывают на более высокую скорость отклика и более естественное поведение роботов по сравнению с традиционными поэтапными пайплайн-подходами.
- ACE-CaP-0 от ACE Robotics позволяет ИИ-агентам создавать многоразовый код для роботов; заявленная успешность составляет 92,1%.
- Amazon превращает камеры Ring в роботов. На протяжении десяти лет Ring от Amazon устанавливала камеры у входных дверей домов. Теперь новейшие камеры компании могут двигаться: одна летает, другая ездит на колёсах. Ring Robotics, принадлежащая Amazon компания, которая установила камеры у входных дверей миллионов домов, представила комнатный дрон стоимостью $250 для использования в жилых помещениях и колёсного охранного робота за $1000 для предприятий. Оба устройства самостоятельно картографируют пространство и патрулируют его без участия оператора.
Принимает на вход тексты, пикчи, звук, видео и может делать с ними всякое. Неофициально умеет генерить/редачить пикчи. Absolute Cinema. Набор полезных ссылок на все случаи жизни: https://github.com/wildminder/awesome-minimax-H3
2. LTX-2.5 - обещал сделать локальную генерацию грейт агейн. Подходят лоры от 2.0, то есть архитектура нихуя не меняется.
Терминология моделей prune — удаляем ненужные веса, уменьшаем размер distill — берем модель побольше, обучаем на ее результатах модель поменьше, итоговый размер меньше quant — уменьшаем точность весов, уменьшаем размер scale — квантуем чуть толще, чем обычный fp8, чтобы качество было чуть лучше, уменьшение чуть меньше, чем у обычного квантования, но качество лучше merge — смешиваем несколько моделей или лор в одну, как краски на палитре.
lightning/fast/turbo — а вот это уже просто название конкретных лор или моделей, которые обучены генерировать видео на малом количестве шагов, они от разных авторов и называться могут как угодно, хоть sonic, хоть sapogi skorohody, главное, что они позволяют не за 20 шагов генерить, а за 2-3-4-6-8.
Кейворды для дополнительных вещей: SVI, RuneXX, LTX Director.
>>1759811 Ну умный дом с персонализированной нейронкой это на самом деле очень даже неплохо, в ногу со временем. Другое дело потянешь ли, она должна жечь твой сервер постоянно, чтобы и пиздеть успевать и говно за тобой смывать.
ИТТ обсуждаем опыт нейродроча в своих настоящих задачах. Это не тред "а вот через три года" - он тол
Аноним24/12/22 Суб 16:39:19№3223Ответ
ИТТ обсуждаем опыт нейродроча в своих настоящих задачах. Это не тред "а вот через три года" - он только для обмена реальными историями успеха, пусть даже очень локального.
Мой опыт следующий (golang). Отобрал десяток наиболее изолированных тикетов, закрыть которые можно, не зная о проекте ничего. Это весьма скромный процент от общего кол-ва задач, но я решил ограничится идеальными ситуациями. Например, "Проверить системные требования перед установкой". Самостоятельно разбил эти тикеты на подзадачи. Например, "Проверить системные требования перед установкой" = "Проверить объем ОЗУ" + "Проверить место на диске" + ... Ввел все эти подзадачи на английском (другие языки не пробовал по очевидной причине их хуевости) и тщательно следил за выводом.
Ответ убил🤭 Хотя одну из подзадач (найти кол-во ядер) нейронка решила верно, это была самая простая из них, буквально пример из мануала в одну строчку. На остальных получалось хуже. Сильно хуже. Выдавая поначалу что-то нерабочее в принципе, после длительного чтения нотаций "There is an error: ..." получался код, который можно собрать, но лучше было бы нельзя. Он мог делать абсолютно что угодно, выводя какие-то типа осмысленные результаты.
Мой итог следующий. На данном этапе нейрогенератор не способен заменить даже вкатуна со Скиллбокса, не говоря уж о джунах и, тем более, миддлах. Даже в идеальных случаях ГПТ не помог в написании кода. Тот мизерный процент решенных подзадач не стоил труда, затраченного даже конкретно на них. Но реальная польза уже есть! Чатик позволяет узнать о каких-то релевантных либах и методах, предупреждает о вероятных оказиях (например, что, узнавая кол-во ядер, надо помнить, что они бывают физическими и логическими).
И все же, хотелось бы узнать, есть ли аноны, добившиеся от сетки большего?
>>1745273 Добавлю. Если под социнженерией подразумевается чтото не законное во всех ее проявления, то я этим не занимаюсь, я наоборот на стороне защиты от любого ворья.
>>3223 (OP) Нужна нейросетка для генерации эротического контента . хочу добавить в свой монтаж фильма. чтобы взять персонажей и с ними склепать . ну и отдельно озвучку наверное чтобы она повторяла голос
ИТТ делимся советами, лайфхаками, наблюдениями, результатами обучения, обсуждаем внутреннее устройство диффузионных моделей, собираем датасеты, решаем проблемы и экспериментируемТред общенаправленныей, тренировка дедов, лупоглазых и фуррей приветствуются
Существующую модель можно обучить симулировать определенный стиль или рисовать конкретного персонажа.
✱ LoRA – "Low Rank Adaptation" – подойдет для любых задач. Отличается малыми требованиями к VRAM (6 Гб+) и быстрым обучением. https://github.com/cloneofsimo/lora - изначальная имплементация алгоритма, пришедшая из мира архитектуры transformers, тренирует лишь attention слои, гайды по тренировкам: https://rentry.co/waavd - гайд по подготовке датасета и обучению LoRA для неофитов https://rentry.org/2chAI_hard_LoRA_guide - ещё один гайд по использованию и обучению LoRA https://rentry.org/59xed3 - более углубленный гайд по лорам, содержит много инфы для уже разбирающихся (англ.)
✱ LyCORIS (Lora beYond Conventional methods, Other Rank adaptation Implementations for Stable diffusion) - проект по созданию алгоритмов для обучения дополнительных частей модели. Ранее имел название LoCon и предлагал лишь тренировку дополнительных conv слоёв. В настоящий момент включает в себя алгоритмы LoCon, LoHa, LoKr, DyLoRA, IA3, а так же на последних dev ветках возможность тренировки всех (или не всех, в зависимости от конфига) частей сети на выбранном ранге: https://github.com/KohakuBlueleaf/LyCORIS
✱ Текстуальная инверсия (Textual inversion), или же просто Embedding, может подойти, если сеть уже умеет рисовать что-то похожее, этот способ тренирует лишь текстовый энкодер модели, не затрагивая UNet: https://rentry.org/textard (англ.)
➤ Тренировка YOLO-моделей для ADetailer: YOLO-модели (You Only Look Once) могут быть обучены для поиска определённых объектов на изображении. В паре с ADetailer они могут быть использованы для автоматического инпеинта по найденной области.
>>1759399 Забыл дописать в предыддущем посте, у меня хотспот GPU во время генерации так сильно не разогревается, максимум 84, вентиляторы по дефолту под Линукс Rocm, тебе нужно менять термоинтерфес, желательно на какой нибудь "фазовый переход" или не знаю какие термопасты сейчас в тренде.
Добра, анон! Нужен совет. Думаю купить подобный девайс. RAM 32 гига, остальное- что китай пошлёт. Цель- запуск нейронки уровня геммы 4. Что б неспеша выполняла задания и не занимала места на основном ПК.
Какую примерно скорость стоит ожидать? Прям совсем-совсем слоупочно?
Обсуждаем развитие искусственного интеллекта с более технической стороны, чем обычно. Ищем замену надоевшим трансформерам и диффузии, пилим AGI в гараже на риге из под майнинга и игнорируем горький урок.
Я ничего не понимаю, что делать? Без петросянства: смотри программу стэнфорда CS229, CS231n https://see.stanford.edu/Course/CS229 (классика) и http://cs231n.stanford.edu (введение в нейроночки) и изучай, если не понятно - смотри курсы prerequisites и изучай их. Как именно ты изучишь конкретные пункты, типа линейной алгебры - дело твое, есть книги, курсы, видосики, ссылки смотри ниже.
Почему python? Исторически сложилось. Поэтому давай, иди и перечитывай Dive into Python.
Можно не python? Никого не волнует, где именно ты натренируешь свою гениальную модель. Но при серьезной работе придется изучать то, что выкладывают другие, а это будет, скорее всего, python, если работа последних лет.
Стоит отметить, что спортивный deep learning отличается от работы примерно так же, как олимпиадное программирование от настоящего. За полпроцента точности в бизнесе борятся редко, а в случае проблем нанимают больше макак для разметки датасетов. На кагле ты будешь вилкой чистить свой датасет, чтобы на 0,1% обогнать конкурента.
Количество статей зашкваливающее, поэтому все читают только свою узкую тему и хайповые статьи, упоминаемые в блогах, твиттере, ютубе и телеграме, топы NIPS и прочий хайп. Есть блоги, где кратко пересказывают статьи, даже на русском
Где ещё можно поговорить про анализ данных? http://ods.ai
Нужно ли покупать видеокарту/дорогой пека? Если хочешь просто пощупать нейроночки или сделать курсовую, то можно обойтись облаком. Google Colab дает бесплатно аналог GPU среднего ценового уровня на несколько часов с возможностью продления, при чем этот "средний уровень" постоянно растет. Некоторым достается даже V100. Иначе выгоднее вложиться в GPU https://timdettmers.com/2019/04/03/which-gpu-for-deep-learning заодно в майнкрафт на топовых настройках погоняешь.
Когда уже изобретут AI и он нас всех поработит? На текущем железе — никогда, тред не об этом
Кто-нибудь использовал машоб для трейдинга? Огромное количество ордеров как в крипте так и на фонде выставляются ботами: оценщиками-игральщиками, перекупщиками, срезальщиками, арбитражниками. Часть из них оснащена тем или иным ML. Даже на швабре есть пара статей об угадывании цены. Тащем-то пруф оф ворк для фонды показывали ещё 15 лет назад. Так-что бери Tensorflow + Reinforcement Learning и иди делать очередного бота: не забудь про стоп-лоссы и прочий риск-менеджмент, братишка
Список дедовских книг для серьёзных людей Trevor Hastie et al. "The Elements of Statistical Learning" Vladimir N. Vapnik "The Nature of Statistical Learning Theory" Christopher M. Bishop "Pattern Recognition and Machine Learning" Взять можно тут: https://www.libgen.is
Напоминание ньюфагам: немодифицированные персептроны и прочий мусор середины прошлого века действительно не работают на серьёзных задачах.
>>1755682 Лекун, что ты забыл на дваче? Русским свою жепу рекламируешь?
Отчасти как-будто можно согласиться, что LLM это тупиковая ветвь развития ИИ, но пока что он своими модельками не продемонстрировал такую же масштабируемость как у LLM. Так что пусть дальше исследует.
>>1756468 А что если топовая модель нагенерирует дистилированного AGI из 2030 года, например? Насколько такие галлюцинации оправдывают гипер вычисления?
В этом треде обсуждаем генерацию охуительных историй и просто общение с большими языковыми моделями (LLM). Всё локально, большие дяди больше не нужны!
Здесь мы делимся рецептами запуска, настроек и годных промтов, расширяем сознание контекст и бугуртим с нано флеш моделей на 1488B параметров.
Тред для обладателей топовых карт NVidia с кучей VRAM или мажоров с проф. картами уровня A100, или любителей подождать, если есть оперативная память. Особо терпеливые могут использовать даже подкачку и запускать модели, квантованные до 8 5 4 3 2 0,58 бит, на кофеварке с подкачкой на микроволновку. Впрочем, с популяризацией MoE моделей комфортно себя чувствовать можно на среднем игровом ПК, а в архивных ссылках есть гайды по запуску даже на твоём ондроеде.
>>1758961 Есть люди, которые здесь гоняют модели в 6-8 гб VRAM. Еще есть люди, которые их используют без ризонинга. Это все сильно сказывается. У меня лично написание рассказов для кванта Q8_0 одного из тюнов квена 3.6-35B рассыпалось на около 150000 токенах. Пошли зацикливания и галлюцинации. До этого результат был приемлимый.
>>1758660 >>1758647 Смеются над его моделями только дебилы, которые не осилили английский. Его тюны просто божественны. Он из Мистраля который казалось бы сам по себе уже кумерский до нехочу такой кум выжал что дух захватывает. Но русофилам не понять.