Forma

w jaki sposob wykryc czy forma jest aktywna ?

można chyba

if form1.active=true then ...

Na pewno działa.

procedure TForm2.Button1Click(Sender: TObject);
begin
if Form1.Active then Button2.Enabled:=False;
end;

Aby się przekonać. W projekcie masz Form1 i Form2.

Potem na drugiej formie dodaj ten kod, aby sprawdzić.

procedure TForm2.Button1Click(Sender: TObject);
begin
if not Form1.Active then Button2.Enabled:=False;
end;