cra
commented
6 months ago промпты для саммаризации читать из конфига тоже хорошая идея
Open cra opened 6 months ago
cra
commented
6 months ago промпты для саммаризации читать из конфига тоже хорошая идея
VsevolodBLV
commented
6 months ago Как думаешь, возможно ли как-то зарыться в «кишки» Саммари Бота?
VsevolodBLV
commented
6 months ago https://github.com/dudynets/Telegram-Summarize-Bot Вот здесь какой-то код.
VsevolodBLV
commented
6 months ago О, а вот смешная функция, которую можно вбросить Матвею: https://github.com/koalazak/telegram-summarize-bot
VsevolodBLV
commented
6 months ago Матвей начинает суммирование с последних по хронологии сообщений, а затем переключается на прежние. Логично, если он начинает «читать» и обобщать с самого начала чанка (т.е. с наиболее старых сообщений), и постепенно доходит до наиболее недавних сообщений.
VsevolodBLV
commented
6 months ago И ещё один ишью: Матвей обрабатывает текст ДО редактирования. А должен бы, я думаю, работать с текстом по состоянию на момент, когда запускают саммари.
cra
commented
6 months ago https://github.com/dudynets/Telegram-Summarize-Bot Вот здесь какой-то код.
Там используется другая модель. Вот тут промпт https://github.com/dudynets/Telegram-Summarize-Bot/blob/main/src/config/ollama.py Я думаю что нам надо скорее боту на вход подавать текст в разметке в духе
Юзер1 (28 декабря 21:52:43): собаки это круто Юзер2 (28 декабря 21:53:23): ты чо пёс
А то он может ещё в том формате что есть сейчас путается 🤷🏻 Ну и да, получается надо сообщения скармливать в порядке по хронологии условно от "500 от сейчас до сейчас", сейчас он их получает как "от сейчас до 500 от сейчас", это я перемудрил чёт
cra
commented
6 months ago упс, оказалось я вообще не подставлял инфу об отправителе, хех. Пофикшено вместе с порядком в 81d144a
cra
commented
5 months ago Можно экономить корованы https://platform.openai.com/docs/api-reference/batch
теперь когда есть сообщения пусть он суммирует своим чатгптшным этим всем