Милый робот с локальным LLM — отличный подарок для него (неё)
Смотрел тут недавно что можно было бы сделать с маленьким суперкомпьютером NVIDIA Jetson Orin Nano Super (посмотрите как Хуанг его презентовал), будь он у меня. Разброс от энкодера IRL-стримов до системы компьютерного зрения. Это уже звучит как весёлое времяпровождение, ведь за 250 долларов в счастливом_где-то_тамье тебе дают до 67 TOPs перфоманса.
И да, можно крутить небольшие LLM-модельки. Но для чего мы можем захотеть крутить их на чём-то настолько компактном? Праавильно, для роботов!
Сначала я нашёл проект самодельного робота из подручных компонентов. Выглядит уже как «хочу попробовать повторить для развлечения и саморазвития», но потом нашёл ещё один классный вариант, подходящий большему количеству людей и без всего этого DIY-дизайна.
Вы могли когда-то слышать про миниатюрного робота Anki Vector из 2018-го. Обычно, он жил где-нибудь на кухонном или рабочем столе пользователей, ставил таймер, узнавал лицо владельца, имитировал тактильность и очень полагался на облако с Алексой.
И вот эта самая «облачная» часть закончилась вместе с Anki в 2019-м. Активы подобрали Digital Dream Labs, выпустили Vector 2.0 за дороже, не без проблем перезапускали облачную инфраструктуру с платной подпиской. Косяков новых владельцев набралось достаточно, чтобы сообщество пользователей было не очень в восторге от DDL, и много Векторов переехало собирать пыль в шкафах владельцев.
Ренессанс случился под флагом open-source. На базе официально открытого кода голосового back-end`а робота, энтузиасты собрали открытое серверное ПО для локального использования. А ещё теперь мы можем перенаправлять непонятные ему интенции («Расскажи шутку») на LLM. И даже без облаков и игровых ПК, ведь теперь у нас появились классные небольшие модельки! Для этого нам как раз может пригодится этот самый Orin Nano. Ссылку на видео с этим проектом на YT прилагаю.
Да, слово «милый» ассоциируется то ли с девушками из Азии, то ли с роботами из мультиков. Сочетание этих двух компонентов становится Uncanny valley, но если речь про робота размером с ладонь — звучит как вариант подарка на один из ближайших праздников. Но, конечно, по цене Apple Watch и AirPods`ов понятнее выбрать что-то другое.
@staniverse
t.me/staniverse/458* · 16 фев 2025*