Grenzstein / Randstein gefunden?

Sieht nicht so aus. Doch selbst wenn er es wäre, wäre es äußerst fraglich, dass er noch da steht, wo er stehen soll.

Was heißt "Anbeginn"? Vor der Grundstücksbildung?

Wenn Du sicher sein willst und den Aussagen deiner Nachbarn nicht vertraust, kommst Du um eine Grenzanzeige nicht herum.
Bundesland?

 

Wenn ihr Euch über den Grenzverlauf einig seid, kann man das ja machen.

Wollen kann er viel, die Rechtslage ist in NRW ganz eindeutig.
§32 NachbG NRW
... Sind beide Grundstücke bebaut oder gewerblich genutzt, so sind deren Eigentümer verpflichtet, die Einfriedigung gemeinsam zu errichten, wenn auch nur einer von ihnen die Einfriedigung verlangt. Wirkt der Nachbar nicht binnen zwei Monaten nach schriftlicher Aufforderung bei der Errichtung mit, so kann der Eigentümer die Einfriedigung allein errichten; ...
§37
(1) Die Kosten der Errichtung der Einfriedigung tragen die beteiligten Grundstückseigentümer in den Fällen des § 32 Abs. 1 Satz 2 und Abs. 2 zu gleichen Teilen. ...
Und BGB
§ 919 Grenzabmarkung
(1) Der Eigentümer eines Grundstücks kann von dem Eigentümer eines Nachbargrundstücks verlangen, dass dieser zur Errichtung fester Grenzzeichen und, wenn ein Grenzzeichen verrückt oder unkenntlich geworden ist, zur Wiederherstellung mitwirkt.
(2) Die Art der Abmarkung und das Verfahren bestimmen sich nach den Landesgesetzen; enthalten diese keine Vorschriften, so entscheidet die Ortsüblichkeit.
(3) Die Kosten der Abmarkung sind von den Beteiligten zu gleichen Teilen zu tragen, sofern nicht aus einem zwischen ihnen bestehenden Rechtsverhältnis sich ein anderes ergibt.

Nochmal Gespräch im Guten versuchen, Gründe des Zaunbaus erläutern, an Verständnis appellieren und wenn alles nichts hilft, das ganze freundlich formuliert mit Fristangabe in den Briefkasten werfen und nach ein paar Tagen nochmal das Gespräch suchen.