网站关键词排名批量查询,虎牙网页游戏大厅,wordpress防盗链,电商代运营公司100强相关配置
timeout 导入任务的超时时间(以秒为单位)#xff0c;导入任务在设定的 timeout 时间内未完成则会被系统取消#xff0c;变成 CANCELLED。 目前 Insert Into 并不支持自定义导入的 timeout 时间#xff0c;所有 Insert Into 导入的超时时间是统一的#xff0c;默认…相关配置
timeout 导入任务的超时时间(以秒为单位)导入任务在设定的 timeout 时间内未完成则会被系统取消变成 CANCELLED。 目前 Insert Into 并不支持自定义导入的 timeout 时间所有 Insert Into 导入的超时时间是统一的默认的 timeout 时间为1小时。如果导入的源文件无法再规定时间内完成导入则需要调整 FE 的参数insert_load_default_timeout_second。 同时 Insert Into 语句收到 Session 变量 query_timeout 的限制。可以通过 SET query_timeout xxx; 来增加超时时间单位是秒。enable_insert_strict Insert Into 导入本身不能控制导入可容忍的错误率。用户只能通过 enable_insert_strict 这个 Session 参数用来控制。 当该参数设置为 false 时表示至少有一条数据被正确导入则返回成功。如果有失败数据则还会返回一个 Label。 当该参数设置为 true 时表示如果有一条数据错误则导入失败。 默认为 false。可通过 SET enable_insert_strict true; 来设置。query_timeout Insert Into 本身也是一个 SQL 命令因此 Insert Into 语句也受到 Session 变量 query_timeout 的限制。可以通过 SET query_timeout xxx; 来增加超时时间单位是秒
数据量
insert Into 对数据量没有限制大数据量导入也可以支持。但 Insert Into 有默认的超时时间用户预估的导入数据量过大就需要修改系统的 Insert Into 导入超时时间。
导入数据量 36G 约≤ 3600s * 10M/s
其中 10M/s 是最大导入限速用户需要根据当前集群情况计算出平均的导入速度来替换公式中的 10M/s
常见问题
查看错误行
由于 Insert Into 无法控制错误率只能通过 enable_insert_strict 设置为完全容忍错误数据或完全忽略错误数据。因此如果 enable_insert_strict 设为 true则 Insert Into 可能会失败。而如果 enable_insert_strict 设为 false则可能出现仅导入了部分合格数据的情况。
当返回结果中提供了 url 字段时可以通过以下命令查看错误行
SHOW LOAD WARNINGS ON url;
示例
SHOW LOAD WARNINGS ON http://ip:port/api/_load_error_log?file__shard_13/error_log_insert_stmt_d2cac0a0a16d482d-9041c949a4b71605_d2cac0a0a16d482d_9041c949a4b71605;
错误的原因通常如源数据列长度超过目的数据列长度、列类型不匹配、分区不匹配、列顺序不匹配等等。
Stream Load
tream load 是一个同步的导入方式用户通过发送 HTTP 协议发送请求将本地文件或数据流导入到 Doris 中。Stream load 同步执行导入并返回导入结果。用户可直接通过请求的返回体判断本次导入是否成功。
Stream load 主要适用于导入本地文件或通过程序导入数据流中的数据。
Stream load 通过 HTTP 协议提交和传输数据。这里通过 curl 命令展示如何提交导入。
用户也可以通过其他 HTTP client 进行操作。
curl --location-trusted -u user:passwd [-H ...] -T data.file -XPUT http://fe_host:http_port/api/{db}/{table}/_stream_load
Header 中支持属性见下面的 ‘导入任务参数’ 说明
格式为: -H key1:value1
用户无法手动取消 Stream loadStream load 在超时或者导入错误后会被系统自动取消
签名参数
user/passwd Stream load 由于创建导入的协议使用的是 HTTP 协议通过 Basic access authentication 进行签名。Doris 系统会根据签名验证用户身份和导入权限。
导入任务参数
Stream load 由于使用的是 HTTP 协议所以所有导入任务有关的参数均设置在 Header 中。下面主要介绍了 Stream load 导入任务参数的部分参数意义。
label 导入任务的标识。每个导入任务都有一个在单 database 内部唯一的 label。label 是用户在导入命令中自定义的名称。通过这个 label用户可以查看对应导入任务的执行情况。 label 的另一个作用是防止用户重复导入相同的数据。强烈推荐用户同一批次数据使用相同的 label。这样同一批次数据的重复请求只会被接受一次保证了 At-Most-Once 当 label 对应的导入作业状态为 CANCELLED 时该 label 可以再次被使用。max_filter_ratio 导入任务的最大容忍率默认为0容忍取值范围是0~1。当导入的错误率超过该值则导入失败。 如果用户希望忽略错误的行可以通过设置这个参数大于 0来保证导入可以成功。 计算公式为(dpp.abnorm.ALL / (dpp.abnorm.ALL dpp.norm.ALL ) ) max_filter_ratiodpp.abnorm.ALL 表示数据质量不合格的行数。如类型不匹配列数不匹配长度不匹配等等。dpp.norm.ALL 指的是导入过程中正确数据的条数。可以通过 SHOW LOAD 命令查询导入任务的正确数据量。 原始文件的行数 dpp.abnorm.ALL dpp.norm.ALLwhere 导入任务指定的过滤条件。Stream load 支持对原始数据指定 where 语句进行过滤。被过滤的数据将不会被导入也不会参与 filter ratio 的计算但会被计入num_rows_unselected。partition 待导入表的 Partition 信息如果待导入数据不属于指定的 Partition 则不会被导入。这些数据将计入 dpp.abnorm.ALLcolumns 待导入数据的函数变换配置目前 Stream load 支持的函数变换方法包含列的顺序变化以及表达式变换其中表达式变换的方法与查询语句的一致。 列顺序变换例子原始数据有两列目前表也有两列c1,c2但是原始文件的第一列对应的是目标表的c2列, 而原始文件的第二列对应的是目标表的c1列则写法如下 columns: c2,c1 表达式变换例子原始文件有两列目标表也有两列c1,c2但是原始文件的两列均需要经过函数变换才能对应目标表的两列则写法如下 columns: tmp_c1, tmp_c2, c1 year(tmp_c1), c2 month(tmp_c2) 其中 tmp_*是一个占位符代表的是原始文件中的两个原始列。exec_mem_limit 导入内存限制。默认为 2GB单位为字节。strict_mode Stream load 导入可以开启 strict mode 模式。开启方式为在 HEADER 中声明 strict_modetrue 。默认的 strict mode 为关闭。 strict mode 模式的意思是对于导入过程中的列类型转换进行严格过滤。严格过滤的策略如下
对于列类型转换来说如果 strict mode 为true则错误的数据将被 filter。这里的错误数据是指原始数据并不为空值在参与列类型转换后结果为空值的这一类数据。对于导入的某列由函数变换生成时strict mode 对其不产生影响。对于导入的某列类型包含范围限制的如果原始数据能正常通过类型转换但无法通过范围限制的strict mode 对其也不产生影响。例如如果类型是 decimal(1,0), 原始数据为 10则属于可以通过类型转换但不在列声明的范围内。这种数据 strict 对其不产生影响。 相关参数
FE参数配置
stream_load_default_timeout_second
导入任务的超时时间(以秒为单位)导入任务在设定的 timeout 时间内未完成则会被系统取消变成 CANCELLED。
默认的 timeout 时间为 600 秒。如果导入的源文件无法在规定时间内完成导入用户可以在 stream load 请求中设置单独的超时时间。
或者调整 FE 的参数stream_load_default_timeout_second 来设置全局的默认超时时间
BE参数配置
streaming_load_max_mb
Stream load 的最大导入大小默认为 10G单位是 MB。如果用户的原始文件超过这个值则需要调整 BE 的参数 streaming_load_max_mb
数据量
由于 Stream load 的原理是由 BE 发起的导入并分发数据建议的导入数据量在 1G 到 10G 之间。由于默认的最大 Stream load 导入数据量为 10G所以如果要导入超过 10G 的文件需要修改 BE 的配置 streaming_load_max_mb
比如待导入文件大小为15G
修改 BE 配置 streaming_load_max_mb 为 16000 即可。
Stream load 的默认超时为 300秒按照 Doris 目前最大的导入限速来看约超过 3G 的文件就需要修改导入任务默认超时时间了。
导入任务超时时间 导入数据量 / 10M/s 具体的平均导入速度需要用户根据自己的集群情况计算
例如导入一个 10G 的文件
timeout 1000s 等于 10G / 10M/s
Mini load
curl --location-trusted -u root: -T /data09/csv/2017/2017-06-01.csv http://drois01:8030/api/retail/dr_selllist_gd/_load?label2017-06-01column_separator%2c
导入文件格式为CSV
column_separator表示字段分隔符
label每个批次的label要全局唯一
-T 要导入的文件
-u导入任务的签名用户名密码用户名密码用英文分号分割
retail/dr_selllist_gd 分别是你要导入数据的数据库及数据表
Broker Load
Broker load 是一个异步的导入方式支持的数据源取决于 Broker 进程支持的数据源。
用户需要通过 MySQL 协议 创建 Broker load 导入并通过查看导入命令检查导入结果
Spark Load
Spark load 通过 Spark 实现对导入数据的预处理提高 Doris 大数据量的导入性能并且节省 Doris 集群的计算资源。主要用于初次迁移大数据量导入 Doris 的场景。
Spark load 是一种异步导入方式用户需要通过 MySQL 协议创建 Spark 类型导入任务并通过 SHOW LOAD 查看导入结果。
查询设置
查询超时
当前默认查询时间设置为最长为 300 秒如果一个查询在 300 秒内没有完成则查询会被 Doris 系统 cancel 掉。用户可以通过这个参数来定制自己应用的超时时间实现类似 wait(timeout) 的阻塞方式。
查看当前超时设置:
mysql SHOW VARIABLES LIKE %query_timeout%; ---------------------- | Variable_name | Value | ---------------------- | QUERY_TIMEOUT | 300 | ---------------------- 1 row in set (0.00 sec) 修改超时时间到1分钟:
SET query_timeout 60;
当前超时的检查间隔为 5 秒所以小于 5 秒的超时不会太准确。 以上修改同样为 session 级别。可以通过 SET GLOBAL 修改全局有效
SQL语句规则
Doris对表名字段名称严格区分大小写
Doris所有子查询必须带别名
BE磁盘间负载均衡
drop_backend_after_decommission
该配置用于控制系统在成功下线Decommission BE 后是否 Drop 该 BE。如果为 true则在 BE 成功下线后会删除掉该BE节点。如果为 false则在 BE 成功下线后该 BE 会一直处于 DECOMMISSION 状态但不会被删除。
该配置在某些场景下可以发挥作用。假设一个 Doris 集群的初始状态为每个 BE 节点有一块磁盘。运行一段时间后系统进行了纵向扩容即每个 BE 节点新增2块磁盘。因为 Doris 当前还不支持 BE 内部各磁盘间的数据均衡所以会导致初始磁盘的数据量可能一直远高于新增磁盘的数据量。此时我们可以通过以下操作进行人工的磁盘间均衡
将该配置项置为 false。对某一个 BE 节点执行 decommission 操作该操作会将该 BE 上的数据全部迁移到其他节点中。decommission 操作完成后该 BE 不会被删除。此时取消掉该 BE 的 decommission 状态。则数据会开始从其他 BE 节点均衡回这个节点。此时数据将会均匀的分布到该 BE 的所有磁盘上。对所有 BE 节点依次执行 23 两个步骤最终达到所有节点磁盘均衡的目的
