Ternary Bonsai 2 27B — 27-миллиардная модель с 1.72 бит/вес, сохраняющая 98.2% интеллекта FP16 и работающая на ноутбуке или одной GPU.
источник ↗Ternary Bonsai 2 27B — 27-миллиардная модель с 1.72 бит/вес, сохраняющая 98.2% интеллекта FP16 и работающая на ноутбуке или одной GPU.
источник ↗