Interpretable Deep Learning Prediction Model for Compressive Strength of Concrete

doi:10.12068/j.issn.1005-3026.2024.05.017

Abstract

Abstract:

To quickly and accurately predict the compressive strength of concrete， a prediction model is established using deep learning technology. The model is automatically optimized and adjusted using the Bayesian optimization algorithm， and the prediction results are analyzed by combining with the SHapley Additive exPlanations （SHAP） interpretable method， which overcomes the problem of the “black box” of the prediction model. The deep learning model is used to mine the potential law between each input feature parameter and compressive strength， the importance of the parameters on the compressive strength prediction results and the influence law is analyzed by visualizing the SHAP values of the input feature parameters. The results show that the constructed deep learning model outforms other traditional models. The SHAP analysis results are consistent with the experimental results， and the model better reflects the complex nonlinear relationship among the characteristic parameters， which can provide the basis and reference for the engineering design of concrete materials.

Key words: concrete, compressive strength, deep learning, SHAP method, interpretation

CLC Number:

TU 528

Wei-qi ZHANG, Hui-ming WANG. Interpretable Deep Learning Prediction Model for Compressive Strength of Concrete[J]. Journal of Northeastern University(Natural Science), 2024, 45(5): 738-744.

Figures/Tables 9

References 23

1	Liu G H， Zheng J. Prediction model of compressive strength development in concrete containing four kinds of gelled materials with the artificial intelligence method［J］.Applied Sciences，2019，9（6）：1039.
2	樊健生，王琛，宋凌寒.土木工程智能计算分析研究进展与应用［J］.建筑结构学报，2022，43（9）：1-22.
	Fan Jian‐sheng， Wang Chen， Song Ling‐han.Research and application of intelligent computation in civil engineering［J］.Journal of Building Structures，2022，43（9）：1-22.
3	Chaabene W B， Flah M， Nehdi M L.Machine learning prediction of mechanical properties of concrete：critical review［J］.Construction and Building Materials，2020，260：119889.
4	Zhang X Q， Akber M Z， Zheng W.Prediction of seven‐day compressive strength of field concrete［J］.Construction and Building Materials，2021，305：124604.
5	Asteris P G， Skentou A D， Bardhan A，et al.Predicting concrete compressive strength using hybrid ensembling of surrogate machine learning models［J］.Cement and Concrete Research，2021，145：106449.
6	Yu P， Qiu H F， He S，et al.Pore structure and prediction of mechanical properties by ANN of concrete mixed MK and SF under hydrochloric acid corrosion［J］.Construction and Building Materials，2023，409：133665.
7	Rudin C.Stop explaining black box machine learning models for high stakes decisions and use interpretable models instead［J］.Nature Machine Intelligence，2019，1（5）：206-215.
8	Lundberg S M， Lee S I.A unified approach to interpreting model predictions［C］//31st Conference on Neural Information Processing Systems（NIPS）.Long Beach：Curran Associates Inc，2017：4765-4774.
9	郭丽丽，丁世飞.深度学习研究进展［J］.计算机科学，2015，42（5）：28-33.
	Guo Li‐li， Ding Shi‐fei.Research progress on deep learning［J］.Computer Science，2015，42（5）：28-33.
10	安鹏，曹丹平，赵宝银，等.基于LSTM循环神经网络的储层物性参数预测方法研究［J］.地球物理学进展，2019，34（5）：1849-1858.
	An Peng， Cao Dan‐ping， Zhao Bao‐yin，et al.Reservoir physical parameters prediction based on LSTM recurrent neural network［J］.Progress in Geophysics，2019，34（5）：1849-1858.
11	冯德成，吴刚.混凝土结构基本性能的可解释机器学习建模方法［J］.建筑结构学报，2022，43（4）：228-238.
	Feng De‐cheng， Wu Gang.Interpretable machine learning‐based modeling approach for fundamental properties of concrete structures［J］.Journal of Building Structures，2022，43（4）：228-238.
12	金浏，赵瑞，杜修力.混凝土抗压强度尺寸效应的神经网络预测模型［J］.北京工业大学学报，2021，47（3）：260-268.
	Jin Liu， Zhao Rui， Du Xiu‐li.Neural network prediction model of concrete compressive strength size effect［J］.Journal of Beijing University of Technology，2021，47（3）：260-268.
13	Khatib J M， Hibbert J J.Selected engineering properties of concrete incorporating slag and metakaolin［J］.Construction and Building Materials，2005，19（6）：460-472.
14	何淅淅，郑学成，林社勇.粉煤灰混凝土强度统计特性的试验研究［J］.土木工程学报，2011，44（sup1）：59-65.
	He Xi‑xi， Zheng Xue‑cheng， Lin She‑yong.The experimental studies on the statistical characteristics of fly ash concrete strength［J］.China Civil Engineering Journal，2011，44（sup1）：59-65.
15	Özcan F， Atis C D， Karahan O，et al.Comparison of artificial neural network and fuzzy logic models for prediction of long‐term compressive strength of silica fume concrete［J］.Advances in Engineering Software，2009，40（9）：856-863.
16	王亚云，娄宗科，张帮强，等.三级配混凝土抗压强度尺寸效应的试验研究［J］.人民长江，2017，48（1）：64-68，102.
	Wang Ya‐yun， Lou Zong‐ke， Zhang Bang‐qiang，et al.Experimental study on size effect of compressive strength of three graded concrete［J］.Yangtze River，2017，48（1）：64-68，102.
17	Chopra P， Sharma R K， Kumar M.Prediction of compressive strength of concrete using artificial neural network and genetic programming［J］.Advances in Materials Science and Engineering，2016，2016：7648467.
18	季韬，林挺伟，林旭健.基于人工神经网络的混凝土抗压强度预测方法［J］.建筑材料学报，2005，8（6）：677-681.
	Ji Tao， Lin Ting‐wei， Lin Xu‐jian.Prediction method of concrete compressive strength based on artificial neural network［J］.Journal of Building Materials，2005，8（6）：677-681.
19	毛明杰，韩鹏飞，杨秋宁，等.基于正交试验粉煤灰细骨料混凝土抗压强度研究［J］.混凝土，2019（9）：88-91.
	Mao Ming‐jie， Han Peng‐fei， Yang Qiu‐ning，et al.Study on compressive strength of fly ash instead of fine aggregate concrete based on orthogonal test［J］.Concrete，2019（9）：88-91.
20	Oner A， Akyuz S.An experimental study on optimum usage of GGBS for the compressive strength of concrete［J］.Cement and Concrete Composites，2007，29（6）：505-514.
21	Shahriari B， Swersky K， Wang Z Y，et al.Taking the human out of the loop：a review of Bayesian optimization［J］.Proceedings of the IEEE，2016，104（1）：148-175.
22	Snoek J， Larochelle H， Adams R P.Practical Bayesian optimization of machine learning algorithms［J］.Advances in Neural Information Processing Systems，2012（2）：2951-2959.
23	资艳玲.基于特征提取与贝叶斯优化的电力负荷组合预测研究［D］.长沙：湖南师范大学，2020.
	Zi Yan‐ling.Research on power load combination forecasting based on feature extraction and Bayesian optimization［D］.Changsha：Hunan Normal University，2020.

特征参数	最大值	最小值	平均值	标准差
水泥用量/（kg·m^-3）	592	45	277.92	112.21
水的用量/（kg·m^-3）	295	84	173.09	44.60
粗细骨料比	3	1.05	1.66	0.43
骨料最大粒径/mm	80	10	15	24
高炉矿渣替代率/%	80	0	18	24
粉煤灰替代率/%	90	0	8	16
硅灰替代率/%	20	0	2.5	5.5
水胶比	1.57	0.17	0.47	0.17
骨胶比	14.35	1.67	5.23	2.53
截面边长/mm	300	100	133	41
减水剂用量/（kg·m^-3）	28.5	0	4.39	5.46
龄期/d	500	1	79	117
抗压强度/MPa	112	1.76	48.1	23.6

特征参数	最大值	最小值	平均值	标准差
水泥用量/（kg·m^-3）	592	45	277.92	112.21
水的用量/（kg·m^-3）	295	84	173.09	44.60
粗细骨料比	3	1.05	1.66	0.43
骨料最大粒径/mm	80	10	15	24
高炉矿渣替代率/%	80	0	18	24
粉煤灰替代率/%	90	0	8	16
硅灰替代率/%	20	0	2.5	5.5
水胶比	1.57	0.17	0.47	0.17
骨胶比	14.35	1.67	5.23	2.53
截面边长/mm	300	100	133	41
减水剂用量/（kg·m^-3）	28.5	0	4.39	5.46
龄期/d	500	1	79	117
抗压强度/MPa	112	1.76	48.1	23.6

超参数	描述	最终取值	取值范围
隐藏层数	除输入层和输出层以外的其他各层	6	1~10
神经元个数	每层的节点数	12,116,72,40,16,1	1~200
激活函数	向神经网络中引入非线性因素	ReLU	ReLU，Tanh，LReLU
优化器	帮助模型确定如何更新权重能最大程度地降低损失函数	Adam	SGD，Adam，RMSProp
学习率	决定每步权重更新对当前权重的改变程度	0.001	1,0.01,0.001,0.0001
正则化	改善模型泛化能力	Dropout	L1，L2，Dropout
epochs	模型训练迭代次数	1500	—
batch_size	单次传递给模型用以训练的数据量	16	1~50

超参数	描述	最终取值	取值范围
隐藏层数	除输入层和输出层以外的其他各层	6	1~10
神经元个数	每层的节点数	12,116,72,40,16,1	1~200
激活函数	向神经网络中引入非线性因素	ReLU	ReLU，Tanh，LReLU
优化器	帮助模型确定如何更新权重能最大程度地降低损失函数	Adam	SGD，Adam，RMSProp
学习率	决定每步权重更新对当前权重的改变程度	0.001	1,0.01,0.001,0.0001
正则化	改善模型泛化能力	Dropout	L1，L2，Dropout
epochs	模型训练迭代次数	1500	—
batch_size	单次传递给模型用以训练的数据量	16	1~50

模型	训练集				测试集
模型	R²	MAPE/%	RMSE/MPa	MAE/MPa	R²	MAPE/%	RMSE/MPa	MAE/MPa
DNN	0.997 2	2.34	1.23	0.86	0.983 2	4.66	3.03	2.19
XGBoost	0.992 4	4.01	2.05	1.39	0.964 5	6.95	4.41	3.12
RF	0.965 0	7.28	4.42	3.15	0.938 1	8.62	5.82	4.28
BP	0.947 8	8.67	5.35	3.95	0.928 9	9.35	6.01	5.73