Скачивание форумов

Tracert

Сейчас газу закрывают. Как ее заорхивировать себе на винт?
http://guns.allzip.org/topic/19/521938.html

Laborant_2009

вот может что придумаете лучше http://guns.allzip.org/topic/84/522856.html

c00xer

Tracert
Сейчас газу закрывают.
В каком смысле? На работе "зафильтруют" или сайт закроется?

Tracert

Романа гебня задолбывает. Ганза имеет все шансы накрытся.

Borion

Tracert
Сейчас газу закрывают.

Может быть не стоит торопиться с окончательными выводами?

Tracert
Как ее заорхивировать себе на винт?

Вы представляете себе, сколько места занимает этот форум? Я не знаю, сколько именно, но полагаю что счет идет на несколько сотен гигабайт, т.к. количество загружаемых полноразмерных фото огромно. Да и сама БД огромна, если учесть, что хранит и все удаленные темы и сообщения. Вы представляете себе, что означает его СКАЧАТЬ? Даже если оффлайн браузер/менеджер закачек не загнется от количества страниц и файлов, которые ему нужно скачать, то качать вы будете даже при быстром интернете несколько месяцев круглосуточно. Потому что это не просто слить БД и файлы с диска на диск, это именно скачивание отдельных страниц и файлов по http путем обхода по найденным ссылкам. В общем, затея абсолютно бесперспективная. Скачать даже отдельный раздел может оказаться проблемой.

c00xer

Хочу предупредить "энтузиастов" - Teleport Pro и весь софт на его основе не справятся. Wget рулит, даже под Windows 😛

nazemka

Сейчас все активно начнут зеркалить и форум точно умрет.

Borion

Это точно. Сейчас и так часто "Временные трудности", а при массовых многопоточных закачках сервер просто ляжет.

Бывший

Так вот почему форум виснет. Это скачивальщики устроили такую нагрузку! 😛

ober

как дети прям... даже жалко вас немного...

http://web.archive.org/web/*/http://talks.guns.ru

Borion

Все бы хорошо, но это не зеркало сайта. Достаточно открыть какой-нибудь раздел ганзы на web.archive.org в архиве 2007 г. и попробовать перейти к произвольной теме - будет осуществлен переход на домен tals.guns.ru. К тому же, как видно, архивов за 2008 и 2009 г. там нет вообще.

ober

точно. как мне меня жалко тоже. но с кончиной ганзов жисть не остановица. я так думаю.

Данила91

На форуме начилась паника 😊 Не известно еще толком ничего. Админ о закрытии конкретно ничего не говорит. Вы сами-то верите, что Ганзу могут закрыть?

ober

вы слишком переоценили влияние форума IRL 😀. какая, нахрен, паника

Бахадур_Сингх

Коллеги кто в теме, если есть время, накидайте инструкцию как конкретно скачать например 60-й раздел, я мудохался с Телепорт Про и с Offline Explorer Enterprise.
Раздел скачивается, а в нём более половины страниц, не открываются, при скачивании устанавливал уровень 1.

Лично мне целиком форум не нужен, только с дюжину разделов, нарезное и гладкоствольное оружие, оптика, ножи, 21-я и 151-я палаты.

Renson

Бахадур_Сингх
Раздел скачивается, а в нём более половины страниц, не открываются, при скачивании устанавливал уровень 1.
вся причина в том, что он скачивает 1 страницу. Рядом со ссылкой на тему есть ссылки на номера страниц. Он скачивает и их. А если в теме много страниц, то Ганза их пропускает, показывая первые и последние. Чтобы скачать создаешь профайл новый, в настройках указываешь что ты Ганзу сомтришь с него, там добавь Логин и пароль нового профайла (новый чисто на всякий случай, чтобы потом в настрйоках основного не рыться). После этого лезешь в настройки нового профайла и выставляешь кол-во сообщений на странице - 99999999999. В итоге у тебя все темы будут в 1 страницу. Итог ? Загружается целиком весь раздел , а все темы становятся как в лайт-версии - 1 страница.

Borion

Ну давайте сейчас еще начнем массово ботов плодить для скачивания 😞 Люди, ну неужели вы не понимаете, что именно этим и угробите форум? Может стоит подумать, а нужны ли мне все темы какого-либо раздела? Ведь много тем не имеют существенного значения для отдельно взятого человека. Может лучше пробежаться по списку тем раздела и выбрать для себя действительно нужные?

Бахадур_Сингх

Renson
...выставляешь кол-во сообщений на странице - 99999999999...
Жжошь!!! Я одно время сидел в Ганзе ставя по 200 постов на страницу, пробовал ставить 1000, с 1000 подвисает что-то.
Хотя идея мне твоя понравилась, затестю скачивание с 1000 постов на страницу.
Мне на Ганзе интересно скачать порядка дюжины разделов.
Остальное не надо ни разу.

Бахадур_Сингх

Borion
Ну давайте сейчас еще начнем массово ботов плодить для скачивания 😞 Люди, ну неужели вы не понимаете, что именно этим и угробите форум? Может стоит подумать, а нужны ли мне все темы какого-либо раздела? Ведь много тем не имеют существенного значения для отдельно взятого человека. Может лучше пробежаться по списку тем раздела и выбрать для себя действительно нужные?
Никто ботов плодить не собирается, количество постов можно и в профайле поставить.

Да мне нужны все темы ряда разделов, по оружию, ножам, оптике, лодкам, 21-я и 151-я палаты.
Всякие флеймы, свободные общения, домашние хозяйства, пневму, расстрел ворон, криминал, и прочую фигню мне не надо.

Нужные темы я себе давно скачал, но иногда возникает вопрос, ищу в поиске и нахожу инфу которую ещё не читал, иногда в уже архивных темах.

Renson

Borion
Люди, ну неужели вы не понимаете, что именно этим и угробите форум?
ботов ? бот - это программа , эмулирующая какие-либо функции человека. А вот второй аккаунт исконно называют мультом.

Как именно по-вашему лишний аккаунт доложен угробить форум ?

Бахадур_Сингх
Хотя идея мне твоя понравилась, затестю скачивание с 1000 постов на страницу.
главное настроить авторизацию, а то он настройки не воспримет

Бахадур_Сингх

Renson
главное настроить авторизацию, а то он настройки не воспримет
Это там где в Телепорт Про, можно указать ник и пароль на форум?

Borion

Renson
ботов ? бот - это программа , эмулирующая какие-либо функции человека. А вот второй аккаунт исконно называют мультом.

Не суть важно. В качестве бота будет выступать Teleport Pro или аналогичная программа, которая будет использовать этот аккаунт.

Renson
Как именно по-вашему лишний аккаунт доложен угробить форум ?

Сам по себе такой аккаунт лишь замусоривает форум. Один, два, десять ладно, ну а когда все желающие скачать начнут их создавать? А угробливаться будет очень просто: сейчас и так днем в пике бывает до 1000 и более участников и гостей, а когда параллельно участник будет сидеть под своим основным аккаунтом, да плюс будет работать программа для скачивания сайта, а такие программы к тому же создают по несколько потоков, то пиковая нагрузка возрастет в разы.

Renson

Borion
Сам по себе такой аккаунт лишь замусоривает форум. Один, два, десять ладно, ну а когда все желающие скачать начнут их создавать? А угробливаться будет очень просто: сейчас и так днем в пике бывает до 1000 и более участников и гостей, а когда параллельно участник будет сидеть под своим основным аккаунтом, да плюс будет работать программа для скачивания сайта, а такие программы к тому же создают по несколько потоков, то пиковая нагрузка возрастет в разы.
а сможет ? с одного IP 2 аккаунта держать ? однааако.
Бахадур_Сингх
Это там где в Телепорт Про, можно указать ник и пароль на форум?
теоретически - в создании проекта. Но я лично не проверял.

Бахадур_Сингх

Renson
теоретически - в создании проекта. Но я лично не проверял.
Не прокатило, те страницы которые под точками так и не скачались.

Renson

Бахадур_Сингх
Не прокатило, те страницы которые под точками так и не скачались.
это плохо... значт надо думать как авторизоваться

Borion

Renson
а сможет ? с одного IP 2 аккаунта держать ? однааако.

А почему нет? Как тогда, к примеру, целые офисы сидят за роутером и снаружи все компьютеры имеют один IP?

Renson

Borion
А почему нет? Как тогда, к примеру, целые офисы сидят за роутером и снаружи все компьютеры имеют один IP?
дело в том, что часть форумов давно не поддерживают больше 1 аккаунта на 1 IP. К их числу я приписывал и ганзу. Сейчас затестил. Действительно, допускает сколь угодно логинов, но как заставить эти шайтан-программы авторизоваться - неясно. Так что смысла в споре никакого нет 😊

Бахадур_Сингх

Коллеги вы не спорьте, лучше подскажите как скачать, например 60-й раздел, страницы которые под "точками" не скачиваются.
Куда ткнуть? Подскажите если в теме.

Borion

Например, скачивать темы в облегченном формате (для печати) без разметки и аватаров. Соответствующая ссылка вверху темы справа в виде значка принтера. Например, ссылка на эту тему выглядит так: http://guns.allzip.org/topic/84/522812.html

Renson

Borion
Например, скачивать темы в облегченном формате (для печати) без разметки и аватаров. Соответствующая ссылка вверху темы справа в виде значка принтера. Например, ссылка на эту тему выглядит так: http://guns.allzip.org/topic/84/522812.html
Телепорт Про их тоже качает. Но тогда надо ставить уровень 2. В итоге качается раздел + все разделы в верхнем меню. Например с Палатой 151 я скачиваю также

Выживание
Гражданское оружие
Гражданская оборона
Медицина
Обмундирование, экипировка, амуниция
Криминальные сводки
Методика подготовки стрелка
Экипировка и снаряжение своими руками

Причем в версии полного раздела. Проблемка.

nazemka

Весь форум все равно не скачаете. В телепорте ограничение на 65000 ссылок, даже в ультре 260000, а здесь явно больше. Да и зачем? Все равно что вики скачивать, читать то придется несколько лет. Проще выделить именно те разделы, в которых Вы проявляете хоть малую, но активность, или выборочно статьи, к примеру fac'и по оружию и иже с ними.
Если у Вас сложный пароль на форум, на время скачки установить что-нибудь попроще (123), никто Вас за это время не сломает, да и врядли кому-то сие интересно. В особенности касается владельцев пунто свитчеров и их модификаций/разновидностей, там вечная проблема с раскладкой. В принципе, можно его на время отключить. Тогда телепорт зайдет под Вашим логином. Про ограничение на количество соединений одного логина с разных браузеров можете забыть, но лучше всего ставить закачку под расписание, на ночь, нагрузка в это время существенно меньше.

Borion

Все заметили, что сервер сегодня примерно до 15 ч просто лежал?

Renson

Borion
Все заметили, что сервер сегодня примерно до 15 ч просто лежал?
это было сложно не заметить 😀

Renson

nazemka
Тогда телепорт зайдет под Вашим логином.
хах.. сами-то пробовали ?

Бахадур_Сингх

Borion
Например, скачивать темы в облегченном формате (для печати) без разметки и аватаров. Соответствующая ссылка вверху темы справа в виде значка принтера. Например, ссылка на эту тему выглядит так: http://guns.allzip.org/topic/84/522812.html
Ну я уже пару лет самые интересные темы таким образом сохраняю, вот интересно весь раздел выкачать.

nazemka
Весь форум все равно не скачаете...
Я не вижу в этом смысла, мне на форуме интересны дюжина разделов, ну может две дюжины, всякие флеймы, ну совсем не интересны.

Скачивал: 60-й раздел с уровнем 1, в три потока, причем ставил в настройках пароль на форум, а в настройках своего профайла ставил 1000 постов на страницу.

Итог: скачались только странички под номерами, странички под точками не скачались, да и скачалось все в традиционном виде по 20 постов на страницу (а не с 1000 постов как указывал в профайле), качал Offline Explorer Enterprise.

Теперь вопрос: Коллеги что сделать чтобы скачивались странички которые под точками?

У кого получилось, поделитесь секретом.


nazemka

Renson
хах.. сами-то пробовали ?
И не раз. Но в силу вышеописанных мною ограничений, использую другое ПО.

2Бахадур_Сингх: попробуйте поставить уровень 3, а для внешних 1.

Renson

nazemka
И не раз. Но в силу вышеописанных мною ограничений, использую другое ПО.
скрины в студию или не было!

nazemka

Стесняюсь спросить, скрины чего? Вы мне сейчас предлагаете скачать 1-2 раздела.. ?
Как я и писал выше, я использую другое ПО, дома мне это в принципе не интересно, а с работы могу сделать пару скринов, если Вас это интересовало.
Если нет, то видимо речь именно о телепорте. Давно я эту программу не видел, но вроде ничего не изменилось.



Настройки вроде всегда ставил такие.
Жаль я свой форум пристрелил, я бы показал Вам как скачивается модераторский раздел 😛

Renson

nazemka
Стесняюсь спросить, скрины чего? Вы мне сейчас предлагаете скачать 1-2 раздела.. ?
зачем 1-2 ? достаточно скрина заглавной страницы какого-либо раздела без разметки номеров страниц. Т.е. подтверждения что Телепорт Про авторизовался и для него каждая тема представлена 1 листом длиной йух-его-знает-сколько-постов. Пока что я увидел с ваших скринов что вы собираетесь качать половину ганзы. 😀

Двадцатьвторой

А вот ишшо вопрос: в разделе Мастерская, к примеру, при настройке "Показывать ВСЕ темы" 88 станиц. И ссылки на все 88 открыты и видны на странице с темой.
Но если натравить на тему Оффлайн Експлорер, цепляет он только первые три.
Мож кто подскажет, в чем дело ?
А насчет выкачивания "длинного" топика (в котором видно ссылки только на первые и на крайние страницы, а остальное "точками"), ежели скачивать _только_ этот топик отдельным проектом, все страницы скачиваются нормально... Включая те, на которых прямых ссылок нет.

knkd

Бахадур_Сингх:
Не прокатило, те страницы которые под точками так и не скачались.
Можно сделать вручную «html» страницу со ссылками на каждую страничку темы 😊
У каждой темы ведь уникальный идентификатор, а номер страницы задаётся явно.

Например адрес темы: http://guns.allzip.org/topic/151/279435.html
Это ссылка на её первую страницу.

А это ссылка на последнюю 😀
http://guns.allzip.org/topic/151/279435.html

Теперь автоматически генерируем ссылки с номерами от 279435.html до 279435-2726.html.

Страничку со сгенерироваными ссылками ложим кладём на локальный диск и стартуем телепорт с неё указывая глубину скачивания "1".

Всё просто, но нужно указывать конкретно тему которую нужно качать.

Renson

knkd
Всё просто, но нужно указывать конкретно тему которую нужно качать.
русские программисты настолько суровы, что пишут калькулятор, чтобы посчитать "2+2" 😀

в таком контексте проще все длинные темы сохранить в виде версии для печати...

knkd

русские программисты
Попрошу без оскорблений...

в таком контексте проще все длинные темы сохранить в виде версии для печати...
А вы загляните по ссылке в сообщении на которое ответили и попробуйте посмотреть эту тему в виде для печати 😀

Кстати програмку я уже наваял. Вот результат для « 100 Рентген »:
100.zip - 0.01MB

Renson

knkd
Попрошу без оскорблений...
да я, да никогда О_о

knkd
А вы загляните по ссылке в сообщении на которое ответили и попробуйте посмотреть эту тему в виде для печати
посмотрел.. и ? на канале в 2 мегабита бар открывался пару минут. Вы где-то у Палате видите еще темы по несколько тысяч страниц ?

knkd

посмотрел.. и ? на канале в 2 мегабита бар открывался пару минут.
А у меня темы длинее 5-ти страниц уже в один лист не открываются 😞

Бахадур_Сингх

knkd
Можно сделать вручную «html» страницу со ссылками на каждую страничку темы 😊
У каждой темы ведь уникальный идентификатор, а номер страницы задаётся явно.
knkd спасибо за подсказку, надо попробовать по вашему рецепту, хотя пока не совсем понятно как это сделать, попробую разобраться.

Мне уже Двадцатьвторой подсказал какие настройки сделать в Offline Explorer Enterprise, я сделал и большинство тем скачалось в версии для печати, ну а часть которые не скачались, ручками досохраняю.

Двадцатьвторой

Бахадур_Сингх, я тута с другой стороны попробовал подойти. Чтоб обойтись без скачивания лишней/дублирующейся инфы. Правда, дико медленно и не со всеми картинками, но зато все на автомате - на ночь оставил и адьё.
Ежели получится - файл с настройками скину.

Бахадур_Сингх

Двадцатьвторой
Ежели получится - файл с настройками скину.
Буду очень рад.

Двадцатьвторой

Бахадур_Сингх, вроде качается... Но жутко медленно.
Потому как я задал интервал номеров топиков, а он от 1 до 522000. Блин.
Теперь эксплорер пытается зайти на каждую из них, сформировать "версию для печати" и если она больше 1КБ, сохранить. И это только 1 раздел-"Снаряжение патронов". Хрень в том, что порядка 90% этого - пустота. Плюс только в том, что сохранится вся инфа за весь период (аж с 2001г.)
Но минус - это просто куча "версий для печати" с картинками. Без оглавления.
Ща вот маракую, как бы сделать файл со списком всех тем в этом разделе со ссылками. Причем такой список, что там будут и темы "доступные только через календарь". Или из этих файлов как-нибудь выковырять заголовки и список создать...

knkd

надо попробовать по вашему рецепту, хотя пока не совсем понятно как это сделать, попробую разобраться.
Да просто, же.
1. Качаете архив 100.zip - 0.01MB.
2. Распаковываете - там внутри хтмл файл.
3. Кладёте этот файл в любое место на компьютере.
4. Задаёте в настройках качалки - качать на ОДИН уровень и без ограничения адреса.

В файле по одной ссылке на каждую страницу темы.
Так по одной странице и скачает, потому никаких проблем с длинными страницами не будет.

Если получится - могу сделать такие файлы для больших тем, или передать програмку с инструкциями.