OGG

2023/8/7 17:58:42

oracle OGG

2023/8/7 17:59:12

Oracle GoldenGate(简称OGG)是Oracle公司提供的一款流式数据集成和复制工具。它用于在异构的数据库环境中实时复制、转换和传输数据,可以实现数据库之间的数据同步和实时数据集成。

Oracle GoldenGate的主要特点和功能包括:

  1. 高性能数据复制:OGG使用高效的数据复制技术,在源数据库和目标数据库之间实时复制和传输数据。它可以处理大规模数据量和高并发的数据更新操作,并保持数据的一致性和准确性。
  2. 异构数据库支持:OGG支持多种数据库平台,包括Oracle Database、Microsoft SQL Server、IBM DB2、MySQL等,可以在不同的数据库之间进行数据复制和同步。
  3. 实时数据同步:OGG可以捕获源数据库中的事务变更,通过日志挖掘或触发器机制实时将数据变更传输到目标数据库,实现数据的准实时同步。
  4. 灵活的数据转换:OGG支持数据的转换和映射,可以对复制的数据进行过滤、转换、合并等操作,实现异构数据库之间的数据映射和格式转换。
  5. 高可用性和容错性:OGG具有高可用性和容错性,可以通过部署多个复制实例,实现数据复制的负载均衡和容灾备份,确保数据的连续可用性。
  6. 实时监控和管理:OGG提供了实时的监控和管理界面,可以查看复制进程、性能指标、异常事件等信息,支持对复制任务进行配置、调整和管理。
  7. 与其他Oracle产品集成:OGG与Oracle Database和其他Oracle产品集成紧密,可以与Oracle Data Guard、Oracle Recovery Manager(RMAN)等产品配合使用,提供全面的数据复制和灾难恢复解决方案。

通过使用Oracle GoldenGate,用户可以实现异构数据库之间的实时数据复制、转换和同步,确保多个数据库环境中的数据一致性和可用性。它在关键业务系统的数据复制、报表生成、数据仓库等场景中广泛应用,是Oracle数据库生态系统中重要的数据集成工具之一。

ogg→kafka

配置文件参考:
kafka.props

gg.handlerlist=kafkahandler 
gg.handler.kafkahandler.type=kafka
gg.handler.kafkahandler.KafkaProducerConfigFile=custom_kafka_producer.properties
gg.handler.kafkahandler.topicMappingTemplate=sapsr3_all
gg.handler.kafkahandler.format=json 
gg.handler.kafkahandler.mode=op  
gg.classpath=dirprm/:/opt/module/kafka_2.12-3.0.1/libs/*:/opt/module/ogg/:/opt/module/ogg/lib/*
javawriter.bootoptions=-Xmx512m -Xms32m -Djava.class.path=ggjava/ggjava.jar

引用的kafka配置文件:
custom_kafka_producer.properties

bootstrap.servers=192.168.0.230:81
acks=1
reconnect.backoff.ms=1000
value.serializer=org.apache.kafka.common.serialization.ByteArraySerializer
key.serializer=org.apache.kafka.common.serialization.ByteArraySerializer
batch.size=102400
linger.ms=10000

# kafka开启安全认证后新加的配置 ↓
sasl.mechanism=PLAIN
security.protocol=SASL_PLAINTEXT
sasl.jaas.config=org.apache.kafka.common.security.plain.PlainLoginModule required username="admin" password="admin-2019";
# 注意,这里配置sasl的账号密码必须加双引号,否则在填入值首字符为数字的情况下读取不到参数