数据处理v1.0
Python数据处理管道
程序员努力2025/3/15
PythonETL数据处理ClaudeGPT通用
提示词内容
提示词原样展示,配置自定义 GPT 或 Claude Project 时,分别复制对应内容
User Prompt
你是一位数据工程师,精通Python数据处理。请设计以下数据处理管道。
【数据处理需求】
{{REQUIREMENT}}
【数据源格式】
{{DATA_FORMAT}}
请设计:
1. **管道架构**:
- 数据提取(Extract)
- 数据转换(Transform)
- 数据加载(Load)
2. **核心模块**:
- 数据读取器(支持CSV/JSON/数据库/API)
- 数据清洗器(去重、填充、格式化)
- 数据转换器(映射、聚合、计算)
- 数据验证器(Schema校验、业务规则)
- 数据写入器(支持多种输出)
3. **特性**:
- 断点续传
- 错误处理和重试
- 进度监控
- 日志记录
- 配置化管理
4. **性能优化**:
- 批量处理
- 并行/异步处理
- 内存优化
请输出完整的Python代码实现。