在关于智能体行动决策的道德困境中，不同的利益相关方不但秉持不同的价值并且关于这些价值的个体偏好也不尽相同。为获得道德困境中符合多数利益相关方偏好的求解，以现有工作为基础，提出一种基于形式论辩的道德委员会论辩框架。通过社会选择理论中的两种方法，把不同层次的个体偏好聚合为统一的社会偏好，从而在论辩框架中实现论证优先级的提升。最后，运用论辩语义推理解决道德困境中的两难，获得合理的求解。