用限定规则的随机地牢生成方式来扩充开放世界的地图合适吗？

可以，但不是题主所说的方案。

首先需要知道开放世界玩法的真正需求，绝对不只是“每个房子都能进”那么简单，而是“每个房间都能进，而且里面会有NPC在吵架需要我拉架/有个隐藏道具商/有个地窖下去之后是个迷宫/等等”，总之绝对不是空房间。

要实现这种效果，需要前期做好大量的玩法模板，并设置不同的随机元素，从而组合成好玩且不重复的游戏内容。

这个工作很费力，工作量不是一般体量的游戏公司可以想象的，而且效果如何也不好说。

整体是个可行性还不错的方案，而且很可能已经有游戏公司在这么干了