本文列出了使用 Databricks Lakeflow Connect 从 Salesforce 引入数据的限制和注意事项。
常规 SaaS 连接器限制
本节中的限制适用于 Lakeflow Connect 中的所有 SaaS 连接器。
- 当运行定时管道时,警报不会立即触发。 而是在更新下一次运行时触发。
- 删除源表时不会自动删除目标表。 你必须手动删除目标表。 此行为与 Lakeflow 声明性管道行为不一致。
- 在源维护期间,Databricks 可能无法访问数据。
- 如果源表名称与现有目标表名称冲突,则管道更新将失败。
- 多目标管道支持仅限 API。
- 可以选择重命名引入的表。 如果重命名管道中的表,它将变为仅限 API 的管道,并且不能再在 UI 中编辑管道。
- 列级选择和取消选择仅限于通过 API 实现。
- 如果在管道启动后选择列,连接器不会自动为新列回填数据。 若要引入历史数据,请手动对该表执行全面刷新。
- 即使两个表来自不同的源架构,Databricks 也无法在同一管道中引入具有相同名称的两个或多个表。
- Azure GovCloud 区域中的工作区不支持管理的引入管道。
- 源系统假定游标列单调增加。
连接器特定的限制
本节中的限制特定于 Salesforce 引入连接器。
身份验证
- Salesforce 允许你轮换刷新令牌,但连接器不支持此功能。
数据类型
- 在数据引入时,Salesforce 数据类型
NUMBER
和CURRENCY
会丢失三位小数的精度。 这些值在 Salesforce 中的小数点之前可以有 18 位数字,但它们在 Databricks 中的小数点之前只有 15 位数字。
管道
每个管道最多有 250 个对象。 但是,这些对象中支持的行数或列数没有限制。
不支持
base64
、address
、___location
或complexValue
类型。 引入期间会自动删除这些列。Databricks 可以引入公式字段。 但是,Databricks 需要这些字段的完整快照。 这意味着管道延迟取决于你的 Salesforce 数据是否包含公式字段和 Salesforce 数据中的更新量。
Databricks 以与管道其余部分相同的节奏运行公式字段。 但是,在管道更新的节奏内,非公式字段可能早于公式字段更新。
Databricks 将软删除视为插入和更新。 从 Salesforce 中删除某行时,它将在下一次同步数据时从青铜表中删除。 例如,假设你有一个每小时运行的管道。 如果在下午12:00同步,随后在下午12:30有一条记录被删除,那么删除情况要到下午1:00进行同步时才会反映出来。
存在一种极端情况:如果在删除记录后到从 Salesforce 的回收站中清除记录之前,管道未运行,Databricks 将错过这些删除操作。 要从这种情况恢复,唯一的方法是进行完全刷新。
Databricks 不支持自动硬删除。 必须完全刷新目标表以反映这些更改。
不支持 SCD 类型 2。
表格
下面是不支持的 Salesforce 对象的非详尽列表:
具有
WHERE
子句或LIMIT
限制的对象:Announcement
AppTabMember
CollaborationGroupRecord
ColorDefinition
ContentDocumentLink
ContentFolderItem
ContentFolderMember
DataStatistics
DatacloudDandBCompany
EntityParticle
FieldDefinition
FieldHistoryArchive
FlexQueueItem
FlowVariableView
FlowVersionView
IconDefinition
IdeaComment
NetworkUserHistoryRecent
OwnerChangeOptionInfo
PicklistValueInfo
PlatformAction
RelationshipDomain
RelationshipInfo
SearchLayout
SiteDetail
TaskWhoRelation
UserEntityAccess
UserFieldAccess
Vote
用于实时事件监视的对象:
ApiEvent
BulkApiResultEventStore
EmbeddedServiceDetail
EmbeddedServiceLabel
FormulaFunction
FormulaFunctionAllowedType
FormulaFunctionCategory
IdentityProviderEventStore
IdentityVerificationEvent
LightningUriEvent
ListViewEvent
LoginAsEvent
LoginEvent
LogoutEvent
Publisher
RecordActionHistory
ReportEvent
TabDefinition
UriEvent
以
__b
、__x
或__hd
结尾的对象:ActivityMetric
ActivityMetricRollup
Site