Как вернуться из второго цикла к прошлому?

Оператор break нужно применить.

While True:
    a = input()
    if a == 1:
        While True:
            b = input()
            if b == '2':
                break

P.S. Условие в вашем примере работать не будет.

Условие выхода из вложенного цикла, нужно указывать на входе в цикл, тогда программа вернется в основной цикл

    a = 0
    b = 0

    while True:
        a = int(input('Введите a: '))
        if a == 1:
            while b != 2:
                b = int(input('Введите b: '))

        if a == 1 and b == 2:
            print(a, b)

    # дальше какой-то код после которого условие выхода из основного цикла