Теоретически, да и практически забить финишный гвоздь через линолеум в деревянную поверхность (фанера, паркет, половая доска, различные плиты, ДСП, ДВП) можно, но на практике так не делали раньше и тем более не делают сейчас.
Раньше использовали обычные не большие строительные гвозди с большой головкой.
Головка финишного гвоздя не на много больше его диаметра,
гвоздь просто проскочит (при добивании) через линолеум и не будет его держать.
Плюс финишный гвоздь тонкий, прочность у него не большая, его даже в фанеру крайне сложно забить, проще в дерево (массив).
Линолеум укладывается не только на фанеру, но и на бетонные полы, если у Вас этот случай, то забить гвоздь в бетон и тем более финишный, просто без вариантов.
Надо сверлить отверстия под гвозди, забивать шканты и далее гвозди.
Но шаг между финишными гвоздями не большой, Вы просто стяжку разрушите.
Если крепить стыковочные планки (порожки)
на гвозди, то и в этом случае используют шурупы, саморезы, в крайнем случае обычные строительные гвозди, а не финишные.
Если у Вас помещение до 20-и квадратов, линолеум крепится под плинтуса, не нужны ни гвозди, ни мастика, ни клей.
Закрепить прибивая непосредственно в линолеум можно, временно, а значит вряд ли это будет целесообразно, поскольку предназначение финишных гвоздей несколько иного плана. Если же крепить линолеум, прибивая его по периметру комнаты этими гвоздями через деревянный плинтус, то напротив это будет и красиво и надёжно.