MediaCrawler: マルチソーシャルメディアプラットフォームコンテンツ、ビデオコメントクローラーツール

はじめに

MediaCrawlerは、開発者向けに設計されたソーシャルメディアコンテンツのクローラーツールです。強力なクローラー機能を提供することで、Xiaohongshu、Jieyin、Shutterbug、B-station、Weiboなどのソーシャルプラットフォームから動画、画像、コメント、いいね、リツイートなどのデータを素早く取得することができる。このツールは、Playwrightをブリッジとして使用し、ログイン後のブラウザ環境を保持し、JS式を実行することで暗号化されたパラメータを取得するため、複雑なリバースエンジニアリングの難易度を簡素化する。

業務上の使用に限り、データ収集は認可の範囲内で行う必要があることにご留意ください。

機能一覧

Xiaohongshu、Jieyin、Shutterbugs、B-station、Weiboなどのプラットフォームをサポート。
クッキーログイン、QRコードログイン、携帯電話番号ログインなどの方法を提供する。
キーワード検索、指定動画・投稿IDクローリング機能をサポート
ログイン状態のキャッシュとIPプロキシプールのサポート
スライダーCAPTCHAソリューションの提供（一部のプラットフォーム）

ヘルプの使用

Python仮想環境の作成と有効化
依存関係のインストール： `pip install -r requirements.txt` コマンドを使用する。
Playwrightブラウザドライバをインストールするには、`playwright install`コマンドを使用する。
クローラーを実行するには、`python main.py --platform xhs --lt qrcode --type search`のようなコマンドライン引数を使用します。
他のプラットフォームのクローラの例を見るには `python main.py --help` を使ってください。
プロジェクトのコード構造を確認し、GitHubリポジトリでより多くの質問に答えてください。

学習教材

このコンテンツは作者によって非表示にされています。コンテンツを表示するには認証コードを入力してください。

キャプチャ

このサイトWeChat公開番号に注意してください、返信"CAPTCHA、チャレンジ・レスポンス・テストの一種（コンピューティング）"、認証コードを取得します。WeChatで"チーフAIシェアリングサークル「またはルックスAI"またはWeChatは、QRコードの右側をスキャンすると、このサイトWeChatの公開番号に注意を払うことができます。