使用canal同步数据到es

Canal 是一个基于 MySQL 数据库增量日志解析的开源工具，它的设计目的是提供低延迟的数据变更监测服务。以下是使用 Canal 同步数据到 Elasticsearch 的基本步骤和示例代码：

1. 确保你有一个运行中的 MySQL 服务器和 Elasticsearch 服务。
2. 在 MySQL 中为 Canal 创建一个权限账号。
3. 下载并安装 Canal。
4. 配置 canal 的 instance 配置文件，指定需要同步的数据库和表。
5. 启动 Canal 服务，确保 instance 正常运行。
6. 编写代码，接收 Canal 的数据变更事件，并将其同步到 Elasticsearch。

示例代码（Java）：

import com.alibaba.otter.canal.client.CanalConnector;
import com.alibaba.otter.canal.client.CanalConnectors;
import com.alibaba.otter.canal.protocol.Message;
import com.alibaba.otter.canal.protocol.CanalEntry;
import org.elasticsearch.client.RestHighLevelClient;
import org.elasticsearch.action.index.IndexRequest;
import org.elasticsearch.action.bulk.BulkRequest;
import org.elasticsearch.action.bulk.BulkResponse;
 
public class CanalESSync {
 
    public static void main(String args[]) {
        // 创建连接
        CanalConnector connector = CanalConnectors.newSingleConnector(
                new InetSocketAddress(AddressUtils.getHostIp(),
                11111), "example", "", "");
 
        // 启动连接
        connector.connect();
        connector.subscribe(".*\\..*");
        connector.rollback();
        try {
            while (true) {
                // 获取指定数量的数据
                Message message = connector.getWithoutAck(100);
                long batchId = message.getId();
                if (batchId == -1 || message.getEntries().isEmpty()) {
                    // 没有数据，休眠一会儿
                    Thread.sleep(1000);
                } else {
                    dataHandler(message, client);
                    // 确认数据已经被处理
                    connector.ack(batchId);
                }
            }
        } catch (Exception e) {
            e.printStackTrace();
        } finally {
            connector.disconnect();
        }
    }
 
    private static void dataHandler(Message message, RestHighLevelClient client) throws Exception {
        for (CanalEntry.Entry entry : message.getEntries()) {
            if (entry.getEntryType() == CanalEntry.EntryType.TRANSACTIONBEGIN || entry.getEntryType() == CanalEntry.EntryType.TRANSACTIONEND) {
                continue;
            }
            CanalEntry.RowChange rowChange = CanalEntry.RowChange.parseFrom(entry.getStoreValue());
            String tableName = entry.getHeader().getTableName();
            for (CanalEntry.RowData rowData : rowChange.getRowDatasList()) {
                if (rowData.