RC2 jest szyfrem blokowym. Wielkość bloku wynosi 8 bajtów (64 bity). Oznacza to, że dane wejściowe są najpierw dzielone na ośmiobajtowe bloki, z których każdy jest potem przetwarzany oddzielnie.

Każdy blok danych składa się z czterech 16-bitowych słów (czyli każde słowo składa się z dwóch bajtów). Tablica czterech słów jest przedstawiana następująco: R[0] R[1] R[2] R[3]. Zarówno proces szyfrowania jak i deszyfrowania otrzymują jako dane wejściowe taką tablicę czterech słów, którą następnie modyfikują. Wynik działania tych operacji zapisywany jest w tej samej tablicy.

Rozszerzanie Klucza

Oprócz danych do przetworzenia, szyfr RC2 otrzymuje również sekretny klucz szyfrujący, dostarczony przez użytkownika. Klucz może mieć różną wielkość, od jednego do 128 bajtów. Długość sekretnego klucza (w bajtach) można przedstawić jako Key_size. Pierwszą operacją, którą przeprowadza szyfr RC2 jest rozszerzenie otrzymanego klucza, w celu otrzymania nowych 128 bajtów rozszerzonego klucza szyfrującego. Otrzymanych w ten sposób 128 bajtów klucza będzie wykorzystywane do szyfrowania lub deszyfrowania wszystkich bloków danych.

Użytkownik RC2 definiuje również drugą liczbę, oznaczoną jako Key_bit-limit, która określa maksymalną rzeczywistą wielkość klucza szyfrującego (w bitach). Znaczy to, że bez względu na to ile bajtów sekretnego klucza dostarczył użytkownik, szyfr RC2 będzie wykorzystywał klucz, którego rzeczywista wielkość wynosi Key_byte-limit, gdzie:
    Key_byte-limit = (Key_bit-limit + 7) / 8

Oczywiście, rzeczywista siła klucza będzie nawet jeszcze mniejsza, jeśli użytkownik dostarczył mniej bajtów klucza niż Key_byte-limit.

W celu zagwarantowania, że tylko ograniczona liczba bajtów klucza będzie wykorzystana do zabezpieczenia danych, należy zdefiniować następującą maskę bitową:
    Key_mask = 255 mod 2^(8 + Key_bit-limit - 8·Key_byte-limit)

Ustawionych na 1 jest 8 - (8·Key_byte-limit - Key_bit-limit) najmniej znaczących bitów maski Key_mask, pozostałe pozycje są wyzerowane.

Słowa i Bajty w Kluczu

Operacje matematyczne przeprowadzane na kluczu operują zarówno na pojedynczych bajtach, jak i na całych słowach. Wobec tego, liczby zapisane w kluczu mogą być przedstawiane albo jako 64 dwubajtowe słowa:
    K[0], K[1], ..., K[63]

albo jako 128 oddzielnych bajtów:
    L[0], L[1], ..., L[127].

Należy zauważyć, że każda część klucza może być zaadresowana zarówno za pomocą bajtów, jak i słów. Można zdefiniować poniższą zależność:
    K[i] = L[2·i] + 256·L[2·i+1]

Mniej znaczące osiem bitów każdego słowa znajduje się przed bardziej znaczącym bajtem.

Algorytm Rozszerzania Klucza

Pierwszym krokiem, który należy wykonać podczas rozszerzania klucza jest wypełnienie pierwszych Key_size bajtów tabeli klucza bajtami klucza zdefiniowanymi przez użytkownika.:
    L[0], L[1], ..., L[Key_size-1].

Następnie, należy wykonać poniższe kroki na tablicy zawierającej bajty klucza. Wykorzystywana w nich tablica T_PI jest stała i ma wielkość 256 elementów. Jest wypełniona losowo liczbami od 0 do 255:

1. Dla i = Key_size, Key_size+1, aż do 127 powtórzyć:
       L[i] = T_PI[(L[i-1] + L[i-Key_size]) mod 256]
2. L[128-Key_byte-limit] = T_PI[L[128-Key_byte-limit] & Key_mask]
3. Dla i = 127-Key_byte-limit, aż do 0 powtórzyć:
       L[i] = T_PI[L[i+1] XOR L[i+Key_byte-limit]]

Rzeczywisty klucz szyfrujący jest zawarty w bajtach klucza:
    L[128-Key_byte-limit], L[128-Key_byte-limit+1]..., L[127]

Działanie & przeprowadzone w drugim kroku powyżej ogranicza rzeczywistą wielkość klucza do Key_bit-limit bitów.

Szyfrowanie

Procedura szyfrowania pobiera jako wejście cztery słowa: R[0] R[1] R[2] R[3], które składają się na jeden blok danych. Każdy blok zostanie zaszyfrowany przy pomocą takich samych 64 słów rozszerzonego klucza szyfrującego: K[0] K[1] ... K[63].

Aby zaszyfrować każdy blok danych, należy wykonać następujące kroki:

1. Zainicjować licznik j na 0.
2. Wykonać pięć rund Mixing.
3. Wykonać jedną rundę Mashing.
4. Wykonać sześć rund Mixing.
5. Wykonać jedną rundę Mashing.
6. Wykonać pięć rund Mixing.

Każda runda Mixing używa 4 bajtów klucza, wobec tego wszystkie 128 bajtów klucza są wykorzystywane podczas szyfrowania jednego bloku danych. Runda Mashing wykorzystuje bajty klucza w bardziej nieprzewidywalny sposób.

Podczas każdej rundy Mixing wykonywane są cztery operacje Mixing, przeprowadzane na czterech słowach bloku danych:

1. Mixing R[0]
2. Mixing R[1]
3. Mixing R[2]
4. Mixing R[3]

Podczas każdej rundy Mashing wykonywane są cztery operacje Mashing, przeprowadzane na czterech słowach bloku danych:

1. Mashing R[0]
2. Mashing R[1]
3. Mashing R[2]
4. Mashing R[3]

Deszyfrowanie

Procedura deszyfrowania pobiera jako wejście cztery słowa: R[0] R[1] R[2] R[3], które składają się na jeden blok szyfrogramu. Każdy blok zostanie odszyfrowany przy pomocą takich samych 64 słów rozszerzonego klucza: K[0] K[1] ... K[63].

Aby odszyfrować każdy blok szyfrogramu, należy wykonać następujące kroki:

1. Zainicjować licznik j na 63.
2. Wykonać pięć rund R-Mixing.
3. Wykonać jedną rundę R-Mashing.
4. Wykonać sześć rund R-Mixing.
5. Wykonać jedną rundę R-Mashing.
6. Wykonać pięć rund R-Mixing.

Podczas każdej rundy R-Mixing wykonywane są cztery operacje R-Mixing, przeprowadzane na czterech słowach bloku szyfrogramu:

1. R-Mixing R[3]
2. R-Mixing R[2]
3. R-Mixing R[1]
4. R-Mixing R[0]

Podczas każdej rundy R-Mashing wykonywane są cztery operacje R-Mashing, przeprowadzane na czterech słowach bloku szyfrogramu:

1. R-Mashing R[3]
2. R-Mashing R[2]
3. R-Mashing R[1]
4. R-Mashing R[0]