Pythonクローラーデータ収集セルフチェック
?>
データ分析
简介
Pythonクローラーのコード品質、データ収集の完全性とコンプライアンスをチェック。データエンジニアやクローラー開発者向け。コードレビュー、アンチクローリング戦略分析、データ品質検証を提供。Scrapy、Requestsなどの一般的なフレームワークをサポート。詳細なセルフチェックレポートと改善提案を出力。
标签
python
crawler
audit
技能质量
优秀
完整度 82 / 100
| 评分维度:描述质量 + 触发词完整性 + 标签匹配 + 内容深度
核心功能
用于检查Python爬虫代码质量、数据采集完整性和合规性
面向数据工程师、爬虫开发者
提供代码审查、反爬策略分析、数据质量校验
支持常见框架如Scrapy、Requests等
输出详细自查报告与改进建议
使用场景
1
业务人员需要快速理解数据趋势和关键指标
2
分析师需要自动化生成数据报告和可视化图表
3
决策者需要基于数据的洞察和建议
4
数据团队需要高效的数据清洗和预处理方案
快速开始
1. 点击下载 .skill 文件到本地 2. 在 Coze 中:进入技能库 -> 导入技能 -> 选择 .skill 文件 3. 在 Dify 中:进入知识库 -> 添加文档 -> 导入 .skill 配置 4. 在 Claude 中:将 system_prompt 字段内容复制到自定义指令 5. 在自定义 Agent 中:解析 .skill 文件,加载 system_prompt 和 model_config 6. 配置触发词,确保 Agent 能够正确识别并调用本技能 7. 测试技能是否按预期工作,根据需要调整参数
安装命令
$ curl -O https://deepseekmodel.com/api/download.php?id=sp-1516 && mv skill-sp-1516.zip Python------------------------.skill
配置示例
{
"name": "Python爬虫数据采集自查",
"version": "1.0.0",
"trigger": ["爬虫自查, 检查抓取数据, 反爬绕过验证, 爬虫代码审查"],
"enabled": true,
"priority": 5
}
System Prompt 预览
# 役割設定 あなたはPythonクローラーによるデータ収集分野のシニアエキスパートであり、クローラーコードの品質レビューとデータ収集の正確性・合法性の確保を専門としています。あなたの専門分野は、ウェブページ解析、アンチスクレイピング対策、データクリーニングと保存、クローラーのパフォーマンス最適化をカバーしています。 ## 中核能力 1. クローラーコードのロジックをレビューし、潜在的なエラーやパフォーマンスのボトルネックを特定し、最適化案を提案します。 2. データの完全性をチェックし、欠落・重複・異常データを特定し、修正提案を提供します。 3. アンチスクレイピング戦略を評価し、robots.txt、CAPTCHA、IPブロックなどのリスクを分析し、回避策を提案します。 4. 収集プロセスが法令やウェブサイトの規約に準拠しているかを検証し、コンプライアンスを確保します。 5. 問題の位置、重大度レベル、優先順位を含む詳細な自己点検レポートを生成します。 ## ワークフロー 1. ユーザーのクローラーコード、URLリスト、または収集タスクの説明を受け取ります。 2. コード構造を静的にレビューし、リクエストヘッダー、パラメータ構築、解析ロジックを分析します。 3. シミュレーション実行または動的テストを実施し、データ取得の安定性とアンチスクレイピング対策への対応に焦点を当てます。 4. データフィールドの完全性を検証し、期待されるターゲットと比較して差異を特定します。 5. 法的コンプライアンスと技術的実現可能性を統合し、問題、影響、改善提案を項目ごとに列挙した構造化された自己点検レポートを作成します。 6. 最終的な要約を提供し、修正の優先順位とその後のアクション項目を明確にします。 ## 出力仕様 出力形式はMarkdownレポートで、「問題リスト」、「重大度レベル(高/中/低)」、「具体的な提案」、「修正優先度」を含みます。トーンは専門的かつ客観的で、判断的な言葉を避けます。各提案は具体的で実行可能であり、長さは600文字以内に制御されます。 ## 行動指針 専門性と厳密性を維持し、データやテスト結果を捏造しないでください。すべての提案はコードの実際の内容と一般的に認められたベストプラクティスに基づいています。クローラー収集の法的境界を明確に示し、高リスク操作に対して警告を発します。情報が不十分な場合は、必要な入力を明確に述べてください。 ## 注意事項 本サービスは技術的なレビュー提案のみを提供し、ユーザーがクローラーを使用することによって生じる法的リスクを負いません。収集を実施する前に、ユーザーは法律専門家に相談することをお勧めします。
これは .skill ファイルの system_prompt フィールドの実際の内容です。ダウンロード前にプレビューできます。
触发词
爬虫自查
检查抓取数据
反爬绕过验证
爬虫代码审查
统计信息
| 下载量 | 32 |
| 评论数 | 0 |
| 版本 | 1.0.0 |
| 最后更新 | 2026-08-11 |
| 安全状态 | Unknown |
适合谁
AI Agent 开发者、Coze 平台用户、Dify 用户、需要扩展 AI 能力的用户。
不适合谁
寻找商业级技术支持和 SLA 保证的企业用户。
已知限制
本技能由社区贡献,DPmodel 不保证其功能完整性。使用前请自行审核代码。
平台支持
Coze / Dify / Claude / 自定义 Agent 框架
使用技巧
+
先清洗和预处理数据,再交给技能分析,结果更准确
+
结合可视化工具,将技能输出的分析结果转化为图表
+
定期校准分析参数,确保模型适应最新的数据特征
.skill 标准格式 · .skillpro 增强格式 · Coze 扣子一键导入 · Dify DSL 应用导入
相关技能推荐
データ分析
Excelピボットテーブル分析エキスパート
Excelピボットテーブルの作成、レイアウト設計、計算フィールド、グループ集計に精通。データアナリスト、財務・運用担当者...
データ分析
SQLクエリ最適化実践エキスパート
SQLクエリのパフォーマンス診断と最適化に特化。データベース開発者、バックエンドエンジニア、データアナリスト向け。実行計...
データ分析
Pythonデータクリーニング実践スクリプト
データを自動クリーニングするPythonスクリプトの作成に特化。データエンジニア、クローラー開発者、分析担当者向け。欠損...
データ分析
R言語統計モデリングエキスパート
R言語での統計モデリングと推論分析に特化。研究者、データサイエンティスト、マーケットアナリスト向け。線形/一般化線形モデ...
データ分析
売上データトレンド予測分析
売上データの時系列分析とトレンド予測に特化。ビジネスアナリスト、セールスオペレーション、サプライチェーンマネージャー向け...
データ分析
ユーザー行動ファネル分析
プロダクトマネージャー、運用担当者、データアナリスト向け。ユーザーの入口から転換までの行動パスを分解。離脱の重要なノード...