几个注意点

1. 每搜索到一个新的节点，先给该节点打上标记，防止走回头路

2. 遇到左括号时需要先判断当前右括号数量是否为0。如((()，此时右边不能再添加左括号

#include <bits/stdc++.h>

using namespace std;

char g[10][10];
int st[10][10];
int n;
int ans;

void dfs(int x, int y, int cnt1, int cnt2)
{
    if(cnt1 == cnt2)
    {
        ans = max(ans, cnt1 + cnt2);
        return;
    }

    st[x][y] = 1;

    int dx[4] = {-1, 0, 1, 0}, dy[4] = {0, 1, 0, -1};

    for(int i = 0; i < 4; i ++)
    {
        int xx = x + dx[i], yy = y + dy[i];

        if(xx >= 0 and xx < n and yy >= 0 and yy < n and !st[xx][yy])
        {
            if(g[xx][yy] == '(' and cnt2 == 0)
                dfs(xx, yy, cnt1 + 1, cnt2);

            if(g[xx][yy] == ')')
                dfs(xx, yy, cnt1, cnt2 + 1);
        }
    }

    st[x][y] = 0;
}

int main()
{
    cin >> n;

    for(int i = 0; i < n; i ++)
        for(int j = 0; j < n; j ++)
            cin >> g[i][j];

    if(g[0][0] == ')')
    {
        cout << 0;
        return 0;
    }

    dfs(0, 0, 1, 0);

    cout << ans;
}