香港建筑AI咨询公司AAL:大模型回答消防规范问题,准确率只有五到七成

香港建筑AI咨询公司AAL INNOVATION与香港理工大学合作,评测12个常用大模型对香港消防安全规范的理解:闭源模型选择题准确率可达80–90%,开源模型普遍落后,开放题人工评分只有50–70%。研究起因是大埔火灾,论文将在AACL会议LT4CPR 2026研讨会发表,并计划开源。

香港建筑AI咨询公司AAL INNOVATION联合创始人兼CEO Adeline Chan在领英宣布,团队与香港理工大学合作,评测了12个常用大模型对香港消防安全规范的理解。论文已被接收,将在11月珠海举行的AACL会议LT4CPR 2026研讨会上发表。

Adeline Chan领英原帖中文译文
Adeline Chan领英原帖,中文为领英自动翻译。图源:LinkedIn

这项研究的起因是去年的大埔火灾。Chan写道,团队里是AI顾问、商人、学者和设计师,能做的事情有限,那就研究大模型对香港消防规范到底理解得多好,再想想行业能怎样用上这些知识。他们计划把研究开源。

团队与领域专家一起搭了一个本地化数据集,包含选择题和开放式问题,用来测试闭源和开源共12个模型。数据集由香港注册建筑师和工程师参与构建,开放题的人工评分也由多位注册建筑师完成。

结果是:闭源模型在选择题上能达到80–90%的准确率,开源模型普遍落后;到了开放式问题,人工评分的准确率只有50–70%。

两种题型的差距值得细看。选择题有选项兜底,模型可以靠排除法得分;开放题要自己说出适用哪条、要求是什么,这才是审图和报建时真实的用法。五到七成的准确率意味着,用大模型查消防规范,答案仍要专业人士逐条核对。

AAL INNOVATION是一家帮建筑和工程企业做AI转型的香港咨询公司,Chan持英国皇家建筑师学会执业资格,并在香港大学教授AI相关课程。研究开源之后,香港本地做AI审图的团队多了一套可以拿来对照的考卷。

资料来源

本文为 AI4ELAB 编辑或原创,作者:Connor 秦明。转载请注明出处:https://ai4elab.com/10296.html

赞 (0)
Connor 秦明的头像Connor 秦明

发表回复

登录后才能评论
联系我们
加入社群