Согласен, если их поставить друг на друга то по 5 на каждую сторону, но нам нельзя ставить их друг на друга.
А что, другое решение существует?

Если 4 стороны по 5 стульев - значит, надо либо 20 отдельных стульев, либо какое-то кол-во общих. В нашем случае стульев 12, значит, общих должно быть именно 8. Общими они могут быть только в углах. Углов - 4, значит, в каждом углу по 2 стула.
Впрочем, если под словом "сторона" подразумевается не стена комнаты, то можно просто расставить стулья треугольником.