GPT（Generative Pre-trained Transformer）是一种基于Transformer模型的自然语言生成模型，它应用了以下技术：

1. Transformer模型：GPT使用了Transformer模型作为其基础结构，用于实现自然语言序列的编码和解码。

2. 预训练技术：GPT通过大规模的无监督学习来预训练模型，利用大量的语料库学习语言的规律和语义表示，并将这些学习到的知识用于生成自然语言文本。

3. 微调技术：GPT还使用了微调技术，即在预训练好的模型基础上，通过有标注的数据进行有监督学习，以进一步提高模型在特定任务上的性能。

4. 自回归生成技术：GPT采用了自回归生成技术，即根据前面的生成结果来预测下一个单词或字符的生成结果，从而生成连续的自然语言文本。

5. 多头注意力机制：GPT使用了多头注意力机制，可以同时关注输入序列的不同部分，从而更好地捕捉语义信息。

6. 残差连接技术：GPT还采用了残差连接技术，可以缓解模型训练时的梯度消失问题，提高模型的训练效率和稳定性。