七月上旬更新速递丨 聚焦集成、安全与AI深度进化

更新亮点: 本次重点强化系统集成能力与AI认知升级,新增4大核心模块9项资源,优化4项资源,点击标题了解(持续互动赢麦豆,解锁高阶技能)

重点推荐:《场景化数据分析实战》课程操作手册

配套六月王炸课程的全套落地指南,手把手教你复现实战场景!

二、实战技巧分享

高效处理资源集成难题》→ 从基础出发,深入探究集成的秘密

三、开发技能突破

第三方系统调用Smartbi接口》→讲解系统集成时的jar包获取,以及集成时代码调用的基本流程。

集成接口介绍》→梳理Smartbi目前提供的接口,以及不同接口的调用流程。

AI每日一学

DeepSeek-R1-0528模型升级:推理与生态的双重升级》→ 解析模型性能提升40%的关键技术 (技术前沿)

简单总结一下机器学习中的几种常见的学习方式与区别》→ 监督/无监督/强化学习差异与应用场景图解 (基础重构)

五、资源更新

CAS单点登录 V2版》上线→ 接入到 CAS 平台中,并实现单点登录

组织/用户/角色信息管理API接口》上线→ 一套 HTTP API的组织、用户、角色信息管理接口

竹云统一身份认证平台组织用户同步对接》上线→ Smartbi封装对应的服务接口,给竹云的统一身份认证平台实时调用,完成组织、用户和角色信息的实时同步。

交互式仪表盘支持自定义字体》优化→ 修复了文本组件编辑状态不生效的问题

只允许外网某种移动端APP访问》优化→ 针对V11版本,增加了钉钉、企业微信访问限制功能

AD域(LDAP/LDAPS)登录验证》优化→ 修复了“更新白名单状态之前没有判断判断用户是否存”的问题

元数据分析落地到知识库》优化→ 增加获取资源创建者的逻辑判断,对空值空对象等情况做优化

麦粉社区
>
帖子详情

自助ETL如何实现数据删除

数据准备 发表于 2024-8-5 16:56
发表于 2024-8-5 16:56:02

源表存在物理删除的操作,比如某个id的数据被物理删除了。自助ETL如何保证目标表和源表数据一致

发表于 2024-8-5 16:56:03
那就是目标节点用覆盖式,但是这样的话你这个ETL必须是处理全量数据才行,不可以是增量数据
  •   禾呈工
    这种底层实现应该是先删除再插入,这种覆盖的情况性能怎么样呢。比如说100W数据
    2024-8-6 16:00| 回复
  •   小明
     回复 禾呈工
    这个回退模式满足?https://wiki.smartbi.com.cn/pages/viewpage.action?smt_poid=43&pageId=114997016#id-自助ETL关系目标源-回退模式
    2024-8-6 16:04| 回复
  •   我的小宝贝
     回复 小明
    回退是删除目标数据源中指定的数据,一般更适用于增量的场景。他这个场景是要删除原数据中不存在但是目标数据源中存在的数据,比较难查出来。
    2024-8-6 19:00| 回复
  •   我的小宝贝
     回复 禾呈工
    ETL这块应该是批处理的,性能应该还是可以的,另外也依赖是什么数据库。我建议你可以尝试执行一次看看。覆盖的话耗时主要在插入数据,因为删除目标数据源的数据应该是直接turncate的。
    2024-8-6 19:00| 回复
  •   小明
     回复 我的小宝贝
    好的,明白
    2024-8-7 11:52| 回复
  • 还有1条回复,点击查看

回复

使用道具 举报

来自手机
发表于 2024-8-5 19:14:14
目标节点用覆盖试试
回复

使用道具 举报

高级模式
B Color Image Link Quote Code Smilies
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

8回帖数 0关注人数 814浏览人数
最后回复于:2024-8-5 21:30
快速回复 返回顶部 返回列表