0-6-1-7 / rosreestr

Rosreestr captcha helper & more
33 stars 15 forks source link

Ошибка при сборе данный по кадастровым номерам #7

Closed VideoSar64 closed 2 years ago

VideoSar64 commented 2 years ago

image

0-6-1-7 commented 2 years ago

Увы, скорее всего, больше мои скрипты работать не будут - сайт обновился, появилась дикая капча на каждое действие.

VideoSar64 commented 2 years ago

жаль, капчу не увидел новую. только что они убрали в справочнике. мне по сути полезен именно он был. чтобы собрать в табличный вид данные по кадастровому номеру.

0-6-1-7 commented 2 years ago

Я теперь вообще не понимаю как этим пользоваться.

VideoSar64 commented 2 years ago

сейчас страница со справочной информацией вообще кидает на страницу запроса ФГИС. видимо опять в выходные чинить сайт надумали. подождем понедельника. может удастся подстроиться

0-6-1-7 commented 2 years ago

С главной страницы можно зайти на "информация онлайн", но там ужос. Надеюсь, они хотя бы ФГИС ЕГРН не сломают ближайшую неделю.

VideoSar64 commented 2 years ago

господи, что это??? жесть какая-то. как это развидеть))))

mishkyn-Mms commented 2 years ago

Эта каптча вроде не совсем ужасна . image

0-6-1-7 commented 2 years ago

Опять доступна страница по старому адресу https://rosreestr.gov.ru/wps/portal/online_request А на новой - я понимаю как этим пользоваться. Возможно, нужно просто подождать немного.

А, не, недоступна. Это у меня какие-то флэшбэки. Печаль.

VideoSar64 commented 2 years ago

есть сходство со старой., но не понятно как теперь найти все помещения в многоквартирном доме например. сейчас при поиске выдает только кадастр здания. а вот как собрать все помещения внутри него пока вопрос

VideoSar64 commented 2 years ago

капча побеждена. единственное условие войти под госуслугами. image может получится хотя бы реализовать возможность сбора данных по справочнику онлайн с датой последних изменений в правах? Очень полезная штука была. Заранее спасибо за помощь.

mishkyn-Mms commented 2 years ago

А можно же перенастроить EGRN-bot , только вводить не кадастровый номер, а адреса по которым нужны кадастры. То есть (пример): Город- Санкт-Петербург район- Центральный Тип улицы- проспект Название - Невский Дом - 65 Помещение/квартира - 1*Н

Далее парсить вывод данных.

VideoSar64 commented 2 years ago

там может возникать множество значений. даже не подходящие под нужные, а иногда и две одинаковые строчки с одним кадастром в предлагаемых

0-6-1-7 commented 2 years ago

может получится хотя бы реализовать возможность сбора данных по справочнику онлайн с датой последних изменений в правах? Думаю, что да. Есть кое-какие мысли на эту тему. Правда, "интеллектуальный" поиск, который он придумали, выдаёт кучу странных адресов - типа меняет местами дом и квартиру.

перенастроить EGRN-bot Теоретически - да, но мы не увидим информации о том, есть ли переходы права по этим объектам, или это "пустышки". Плюс там нет поиска по маске. В общем, я даже думать над этим не хочу.

VideoSar64 commented 2 years ago

А если поиск производить не по адресу, а по кадастровому номеру из файла KN.xls

0-6-1-7 commented 2 years ago

Дык бот именно так и работает при заказе выписок. А остальную часть работы - поиск КН по адресу и поиск по КН данных о наличии сведений о переходах права - сейчас приходится делать по старинке, руками, тихонечко матерясь словами благодарности в адрес росреестра.

VideoSar64 commented 2 years ago

я про механизм SIpON headless No Captcha.py поиск кадастров по помещениям в многоквартирном доме я обошел. правда тоже немного ручками приходится допиливать. на сайте https://egrp365.org/extra/ выбираю поиск по адресу. Ввожу адрес дома, он выдает списков всего что с этим адресом. Далее в Excel и немного магии. На выходе список необходимых кадастровых номеров. А вот дальше хотелось бы получать всё тоже что и было при запуске SIpON headless No Captcha.py image

0-6-1-7 commented 2 years ago

Эти левые сайты плодятся и дохнут пачками ежемесячно. Я пока не знаю как автоматизировать получение данных о наличии сведений о переходах прав - нужно время и эксперименты.

VideoSar64 commented 2 years ago

сайт выше работает уже пару лет. я просто поделился как я стал собирать нужный перечень кадастровых номеров. пока тоже эксперементирую с возможностями как получить данные из справочника. но познаний в python не хватает)

0-6-1-7 commented 2 years ago

К сожалению, я так и не смог ничего найти по адресу - всё ломается с таймаутом. Чисто в теории - у росреестра есть REST API, и я даже делал для него скрипты. Быстродействие колоссальное, и процесс очень простой. Жаль только, что через API видно только часть базы росреестра, т.е. многих адресов вообще нет. И сведений о переходах прав тоже нет.

0-6-1-7 commented 2 years ago

Ну, есть две новости: хорошая и плохая. Плохая - всё не так хорошо, как хотелось бы. Хорошая - всё не так плохо, как могло бы быть. SIpON v3 alfa В первом приближении - оно работает.

VideoSar64 commented 2 years ago

Ну, есть две новости: хорошая и плохая. Плохая - всё не так хорошо, как хотелось бы. Хорошая - всё не так плохо, как могло бы быть. SIpON v3 alfa В первом приближении - оно работает.

работает. браво. единственное уточнение. можно в площади заменить точку на запятую? а то при площади например 5.7 ставит в ячейку дату(

0-6-1-7 commented 2 years ago

Ну, есть две новости: хорошая и плохая. Плохая - всё не так хорошо, как хотелось бы. Хорошая - всё не так плохо, как могло бы быть. SIpON v3 alfa В первом приближении - оно работает.

работает. браво. единственное уточнение. можно в площади заменить точку на запятую? а то при площади например 5.7 ставит в ячейку дату(

Пробуйте.

volgogradetc commented 2 years ago

Интересно как отреагирует Росреестр на массовые запросы.

VideoSar64 commented 2 years ago

Ну, есть две новости: хорошая и плохая. Плохая - всё не так хорошо, как хотелось бы. Хорошая - всё не так плохо, как могло бы быть. SIpON v3 alfa В первом приближении - оно работает.

работает. браво. единственное уточнение. можно в площади заменить точку на запятую? а то при площади например 5.7 ставит в ячейку дату(

Пробуйте.

image

0-6-1-7 commented 2 years ago

Ок, проверю. На самом деле, авторизация в ЛК вообще не нужна - то ли глюк разработчиков, то ли фича: капчу достаточно ввести всего один раз, потом можно хоть целый день проверять КН. Ближайшие два дня заняты, на выходных сделаю рабочий вариант.

VideoSar64 commented 2 years ago

Спасибо. Фичу с капчей тоже заметил.

VideoSar64 commented 2 years ago

Ой как не вовремя сейчас надо 1500 КН проверить 🥲 Ручками пока придётся. Не могу понять что они поменяли что код перестал работать. Какой то элемент поменяли что ли в странице. Или тайм-аут надо где то поставить.

VideoSar64 commented 2 years ago

Ок, проверю. На самом деле, авторизация в ЛК вообще не нужна - то ли глюк разработчиков, то ли фича: капчу достаточно ввести всего один раз, потом можно хоть целый день проверять КН. Ближайшие два дня заняты, на выходных сделаю рабочий вариант.

Удалось победить трехглавого Росреестра?

0-6-1-7 commented 2 years ago

Пока разгребаю завал на основной работе, через пару часов начну заниматься росреестром.

VideoSar64 commented 2 years ago

что уже только не пробовал. никак не выходит. не могу вычислить какой элемент ищет, что не находит и выдает ошибку получения данных

0-6-1-7 commented 2 years ago

Спокойствие! Только спокойствие! Я работаю. Завтра будет рабочий вариант.

0-6-1-7 commented 2 years ago

Готово, проверяйте.

VideoSar64 commented 2 years ago

поработал и перестал image

VideoSar64 commented 2 years ago

поработал и перестал image

Это не ошибка. Это баг Как только натыкается на кадастровый номер который относится к "сооружению" сразу стоп. Видимо информация по таким кадастрам имеет другую структуру.

0-6-1-7 commented 2 years ago

У этого объекта нет характеристики "Площадь", вместо него "протяженность". Я с таким не сталкивался и не знаю как эту ситуацию обработать. Если нужно куда-то записывать - например, в отдельную колонку "Характеристика", это можно организовать. Либо просто пропускать и оставлять в колонке "Площадь" пустое место.

VideoSar64 commented 2 years ago

У этого объекта нет характеристики "Площадь", вместо него "протяженность". Я с таким не сталкивался и не знаю как эту ситуацию обработать. Если нужно куда-то записывать - например, в отдельную колонку "Характеристика", это можно организовать. Либо просто пропускать и оставлять в колонке "Площадь" пустое место.

Второй вариант предпочтительнее. Эти кадастры в дальнейшем анализе не нужны. Но хотелось бы понимать что он отработан и это сооружение. А не ошибка получения данных. И не хватает конечно фонового режима работы. Приходится ждать окончания работы скрипта.

0-6-1-7 commented 2 years ago

Готово. Записывается "Не указано для этого ОН или ошибка" И ещё есть ошибка - если с первого же КН возникла ошибка капчи, этот КН помечается как ошибка. Исправлю, но уже не сегодня.

0-6-1-7 commented 2 years ago

Эм.. насчёт фонового режима - запускать из проводника дабл-кликом. После ввода капчи и "Обработка файла" можно всё свернуть - оно как раз в фоне и будет работать. Можно, конечно, при ошибке поднимать окно, но я не уверен, что выпрыгнувшее в неподходящий момент окно - хороший вариант. Можно, пожалуй, сделать уведомление в трее, раз уж основная часть почти работает...

0-6-1-7 commented 2 years ago

Обновил. Чуть подправил интерфейс и немного изменил обработку странной ситуации, когда сайт перестаёт нормально реагировать на введённый в поле поиска КН.

VideoSar64 commented 2 years ago

Обновил. Чуть подправил интерфейс и немного изменил обработку странной ситуации, когда сайт перестаёт нормально реагировать на введённый в поле поиска КН.

работает. Огромное спасибо. Спасибо что поддержали в сложное время. И не бросили идею.

volgogradetc commented 2 years ago

Спасибо большое! В v.2 добавлял выгрузку номер права вместе с датой.(полезно для проведения общих собраний). (в итоге ограничения и права сыпались в одну ячейку и я потом в Экселе разгребал).

0-6-1-7 commented 2 years ago

Я иногда подумываю, а не сохранять ли номер права, но пока не придумал как это визуализировать. По одному объекту может быть 20-30 строк с рег. номерами, в т.ч. как с датами, так и без дат. Если дадите идею как это всё сохранять, я сделаю. Самый простой вариант - в отдельную колонку в одну ячейку все записи. Вот пример длинного списка 34:35:030110:8605 image

volgogradetc commented 2 years ago

Я думаю разгребать нет смысла . Меня беспорядок в этой ячейке не пугает.

VideoSar64 commented 2 years ago

Я иногда подумываю, а не сохранять ли номер права, но пока не придумал как это визуализировать. По одному объекту может быть 20-30 строк с рег. номерами, в т.ч. как с датами, так и без дат. Если дадите идею как это всё сохранять, я сделаю. Самый простой вариант - в отдельную колонку в одну ячейку все записи. Вот пример длинного списка 34:35:030110:8605 image

78:14:0007553:12240 Вот пример когда на помещение 109 прав собственности. Да и потом просто право собственности без ФИО так себе информация для заполнения бланков решения собственников. ФИО только через запрос в ФГИС получить можно.

volgogradetc commented 2 years ago

Согласен, но бывает полезной. Работает отлично. Вот кстати за 2 часа работы: Пример

0-6-1-7 commented 2 years ago

Ахаха я лошара. Как интересно читать документация после того как разбил лоб. Сейчас переделаю, будет по 10 штук сразу искать, должно быть побыстрее. Хотя и 200+ штук за приемлемое время находится, но мне лень по страничкам щёлкать. image

0-6-1-7 commented 2 years ago

Пакетами по 10 существенно быстрее. "КН найден, но не отображается" - сайт за 20 секунд не отобразил результат. Можно ещё увеличить таймаут, но быстрее просто кнопку нажать для перезапуска. Завтра выложу в общий доступ. image

0-6-1-7 commented 2 years ago

Версия 3.2. в папке SIpON v3 alfa