Квадратное отверстие из круглого на мезанических производствах делают,например,таким инструментом,как протяжка. Это давно освоеннная и достаточно простая технология,которая,к тому же,еще обеспечивает ,кроме высокой производительности, и очень высокую точность и чистоту обработки.  По моей оценке, сверление каким то хитрым сверлом квадратного отверстия ,если это и возможно,вряд ли обеспечит аналогичную производительность, точность и чистоту обработки отверстия. Поэтому,возникает закономерный вопрос: а нужно ли сие мудрствование  то лукавое?

Сверлить отверстия не круглые а квадратные и вообще любые умели уже очень давно. Так например, в Артиллерийском музее хранится старинная пушка-картечница московской работы 17 века у которой канал ствола имеет квадратное сечение, а не круглое. В английской армии в 19м веке были на вооружении ружья Энфилда у которых канал ствола имел не круглую, а эллиптическую форму сечения и притом эллипс этот был не прямой, а в виде винта чем и достигалось вращение пули после вылета из ствола. Разумеется, пули тоже были в сечении не круглые, а эллиптичные.

Тогда же в русской армии делались опыты с пушкой, имеющей канал ствола в виде очень узкого эллипса так что снаряды которыми она стреляла имели вид наподобие теперешних спортивных дисков которые метают дискоболы,  пушки эти успешно стреляли но дальше нескольких опытных экземпляров дело не пошло.

О чём разговор? Неужели это проблема? Для сверления квадратного отверстия достаточно взять квадратное сверло!

Степпи правильно напсила про СССР'овский учебник. Нашел в книжке "Сверловщик" И.З Винникова и М.И. Френкеля 1971 года издания на 208-210 страницах приспособление для сверления многогранных отверстий на сверлильных станках. Только там немного другой принцип. Жаль, что файлы нельзя добавлять. Но кому интересно легко могут найти книгу в интернете.