Празнината
Облачните асистенти изпращат въпросите ви към чужди сървъри и губят контекста между сесиите. Обикновеният локален чат пази данните ви, но не знае нищо за файловете и проектите ви.
AI
PN Scripts Assistant е безплатен асистент с отворен код, който научава проектите и документите ви и отговаря въз основа на тази памет. Не изисква сървър за бази данни, контейнери или облачен акаунт, а наученото остава на вашия диск.
Изходният код е в GitHub под лиценз MIT. PN Scripts може да го пригоди за вашия проект.
Къде е този проект?
Реален път на този диск, извлечен от паметта, а не догадка.
Всяко действие се записва. Променен файл може да бъде върнат.
Празнината
Облачните асистенти изпращат въпросите ви към чужди сървъри и губят контекста между сесиите. Обикновеният локален чат пази данните ви, но не знае нищо за файловете и проектите ви.
Какво представлява
Една програма на Go и един SQLite файл. Използва модел, който пускате в Ollama, учи от кода и документите ви с ваше одобрение и отговаря с реални пътища до файловете. Наученото никога не напуска компютъра ви.
Как се използва
Инсталирайте го, насочете го към Ollama и питайте. При първото стартиране той открива Ollama, предлага да инсталира модел и пита къде да пази паметта.
Ollama изпълнява езиковия модел. PN Scripts Assistant добавя дългосрочната памет, инструментите и интерфейса и съхранява всичко научено в един файл на вашия диск.
Използвайте го когато
Направено за
Наученото от PN Scripts Assistant за вас никога не напуска компютъра, в нито един режим и с нито една настройка. Няма телеметрия. Ако настройката за поверителност съдържа непозната стойност, например правописна грешка, тя се третира като частен режим.
private По подразбиране
Нищо. Локален модел, локални embeddings, без достъп до интернет.
research
Само заявките за търсене. Разговорите и паметта остават тук.
open
Написаното от вас може да отиде към външен модел. Паметта остава тук.
Помни какво вече знае за проектите и документите ви. На въпроса „Къде е този проект?“ отговаря с реалния път на диска.
Сканира кода и документите ви и след всеки разговор предлага какво си струва да запомни. Всичко, което е извело само, чака вашето одобрение. Факти, които може да провери на диска, записва автоматично.
Може да чете файлове, да разглежда папки, да изпълнява команди, да търси в интернет и да управлява умен дом през Home Assistant. Всяко действие се записва, а променен файл може да бъде върнат. В панела за разрешения избирате дали да пита всеки път, само за действия, които още не сте разрешили, или да действа свободно.
Интерфейсът изобразява жива карта на съхраненото, подредено според това колко близки са отделните записи. С един поглед виждате какво знае.
В режим на разговор слуша, докато спрете да говорите, отговаря, прочита отговора на глас и отново слуша. Разпознаването и синтезът на реч работят локално. С глас можете да питате, но не и да възлагате действия, така че зле чуто изречение не може да промени нищо.
Без видеокарта отговорите са бавни. Цифрите по-долу са измерени, за да знаете какво да очаквате. Дължината на заявката определя почти цялото време за отговор.
Заявка
~10 токена/с
Четири ядра, модел 7B
Отговор
~2,5 токена/с
Генериране на процесор
Гласова реплика
~40 s
Слуша, отговаря, говори
Зареден модел
6.8 s
15,8 с, ако моделът се презареди
Порядъкът се променя само с видеокарта или в отворен режим с външен модел. Дори в отворен режим наученото за вас остава на компютъра ви. Задайте OLLAMA_MAX_LOADED_MODELS на 2, иначе Ollama презарежда модела за чат преди всеки отговор.
Изтеглете версия от GitHub или я изградете от изходния код с Go. Нужен ви е и Ollama с модел за чат и nomic-embed-text. При първото стартиране програмата проверява какво липсва и предлага да го инсталира. Безплатен софтуер с отворен код под лиценз MIT, в GitHub. PN Scripts може да го пригоди за вашия проект.
Изходният код е в GitHub под лиценз MIT. PN Scripts може да го пригоди за вашия проект.