ysyecust/data-scraper-agent
docs/ja-JP/skills/data-scraper-agent/SKILL.md
任意のパブリックソース（ジョブボード、価格、ニュース、GitHub、スポーツなど）用の完全自動化されたAI搭載データ収集エージェントを構築します。スケジュールでスクレイプし、無料LLM（Gemini Flash）でデータを豊かにし、Notion/Sheets/Supabaseに結果を保存し、ユーザーフィードバックから学習します。GitHub Actions上で100％無料で実行。ユーザーがパブリックデータを自動的に監視、収集、または追跡したい場合に使用します。
$ install --global
skillsauthnpx skillsauth add ysyecust/everything-claude-code data-scraper-agentInstall this skill globally with one command. Works with Claude Code, Cursor, and Windsurf.
Security Scan Results
3 of 9 scanners reported clean
Some scanners were skipped, did not run, or reported a non-clean status. Review each row below.
3
Scanners Passed
9
Scanners in report
Clean
TrivyContainer and dependency vulnerability scanner
95%
Clean
SemgrepStatic code analysis for vulnerabilities
95%
Clean
mcp-scan (Snyk)Model Context Protocol security validation
95%
Skipped
Snyk (dep)Open source security scanning
50%
Skipped
Socket.devSupply chain security analysis
50%
Skipped
VirusTotalMulti-engine malware detection
50%
Skipped
CrowdStrikeAdvanced threat intelligence
50%
Skipped
OSV-ScannerOpen Source Vulnerability database check
50%
Skipped
OWASP Dep-Check
50%
Last scanned: May 18, 2026, 4:11 AM243.9s1 file scanned
SKILL.md
- name:
- data-scraper-agent
- description:
- 任意のパブリックソース（ジョブボード、価格、ニュース、GitHub、スポーツなど）用の完全自動化されたAI搭載データ収集エージェントを構築します。スケジュールでスクレイプし、無料LLM（Gemini Flash）でデータを豊かにし、Notion/Sheets/Supabaseに結果を保存し、ユーザーフィードバックから学習します。GitHub Actions上で100％無料で実行。ユーザーがパブリックデータを自動的に監視、収集、または追跡したい場合に使用します。
- origin:
- community
データスクレイパーエージェント
任意のパブリックデータソース用の本番環境対応、AI搭載データ収集エージェントを構築。 スケジュールで実行され、無料LLMで結果を豊かにし、データベースに保存し、時間とともに改善されます。
スタック：Python · Gemini Flash（無料） · GitHub Actions（無料） · Notion / Sheets / Supabase
アクティベーション時期
- ユーザーが任意のパブリックWebサイトまたはAPIをスクレイプまたは監視したい場合
- ユーザーが「チェックするボットを構築」「Xを監視」「データを収集」と言う
- ユーザーがジョブ、価格、ニュース、リポ、スポーツスコア、イベント、リストを追跡したい場合
- ユーザーがホスティング用に支払わずにデータ収集を自動化する方法を尋ねる
- ユーザーが決定に基づいて時間とともにより スマートになるエージェントを望む
コアコンセプト
3つのレイヤー
すべてのデータスクレイパーエージェントには3つのレイヤーがあります：
COLLECT → ENRICH → STORE
│ │ │
Scraper AI (LLM) Database
runs on scores/ Notion /
schedule summarises Sheets /
& classifies Supabase
無料スタック
| Layer | Tool | Why | |---|---|---| | COLLECT | Playwright/BeautifulSoup | 無料のオープンソーススクレイピング | | ENRICH | Gemini Flash | 無料で高速LLM | | STORE | Supabase / Sheets | 無料データベースとスプレッドシート | | SCHEDULE | GitHub Actions | 無料クロンジョブ |
ワークフロー
- ソースを定義 - どこからスクレイプするか、何を抽出するか
- スクレイパーを構築 - BeautifulSoup または Playwright ベースのコレクタ
- LLMを構成 - Gemini Flash でテキストをスコア付け/要約/分類
- ストレージを設定 - Notion、Sheets、Supabase のいずれか
- GitHub Actions を設定 - 毎日/毎週実行するスケジュール
- フィードバックループを追加 - ユーザーの判断から学習
例
- ジョブボード監視：新しい公開
Related Skills
ysyecust/production-scheduling
tools
VerifiedTrustedCommunity
日本語翻訳：このファイルは production-scheduling 用の日本語翻訳が必要です
34SKILL.mdUpdated Jul 7, 2026
ysyecust/production-audit
testing
VerifiedTrustedCommunity
日本語翻訳：このファイルは production-audit 用の日本語翻訳が必要です
34SKILL.mdUpdated Jul 7, 2026
ysyecust/product-lens
tools
VerifiedTrustedCommunity
日本語翻訳：このファイルは product-lens 用の日本語翻訳が必要です
34SKILL.mdUpdated Jul 7, 2026
ysyecust/product-capability
tools
VerifiedTrustedCommunity
日本語翻訳：このファイルは product-capability 用の日本語翻訳が必要です
34SKILL.mdUpdated Jul 7, 2026